撤退。更糟糕的是，朱序、张天锡等人组织了一批起义士兵在秦军中故意大喊：“秦军败了！秦军败了！”一部分秦军便信以为真，争相奔逃。晋军趁势发起进攻，秦军于是大溃，没怎么抵抗就纷纷奔逃。苻融急忙带着亲兵跑到阵前，想要稳住阵脚，但乱兵如洪水一般后撤，就是前面的想止住步，后边的也停不下来。苻融在混乱的人群中被冲倒，竟然被踩死了。这时朱序的起义士兵又在喊：“苻融死啦，苻融死啦。”秦军更是无心恋战，拼命北逃。晋军如驱赶羊群一样在后掩杀。其实根本不用晋军动手，秦兵自相践踏和挤入淮河中淹死的就不计其数。
在寿阳城头上观察战场的苻坚当时目瞪口呆，愣在那里半天没有回过神来，他根本没有想到会有这个结果！等他回过神来后，第一件事就是带着城中不多的还算有组织有纪律的士兵逃跑。
秦军以后的任务就是不断地逃跑，拼命向北奔逃，沿途不敢停留，听到风的声音鹤的叫声，都以为是晋军追来，这就是著名典故“风声鹤唳”的来历。
当淝水之战的捷报送到京城时，谢安正在府中与客人下围棋。他看过捷报之后，拼命压抑着激动的心情，不动声色地把捷报随手放在一边，继续下棋，就好像什么也没有看到一般。对面的客人着急地追问道：“前方战事是什么情况？”
谢安轻轻说道：“小儿辈遂已破贼。”说完此话，走向内室，但他已经难以抑制心中的喜悦，走过门槛的同时竟然把屐齿给弄折了。
淝水之战后，晋军趁势收复了东南的蜀汉以及黄河以南的大片地区。而对前秦打击更大的是，慕容垂、姚苌、吕光、拓跋等人纷纷独立，原本强盛的前秦顿时四分五裂，北方再一次陷入大混乱时期。
前秦裂数国
苻坚一直逃到淮北才敢停下。很快各处传来消息，百万秦军只剩下三十多万，其余除少量战死被俘外，大多溃散逃亡。龙骧将军姚苌的十万水军在巴东遇到晋将桓石虔的阻击，多日不能前进，得知秦军主力大败后，又退回成都。冠军将军慕容垂所率三万鲜卑兵全师而退，正驻守在许昌。苻坚遂带领自己的三千名亲军去投奔慕容垂。
慕容垂本来带兵在郧城与桓冲十万大军对峙。苻坚在淝水溃败后，他便打算北撤，但又担心桓冲追击，于是派士兵晚上把尽可能多的火炬点燃，系在树梢之上，光照数十里。桓冲看到晚上的火把，估摸对方至少有二十几万人，以为慕容垂的援军到了，所以不敢追击。慕容垂这才从容北退。
慕容垂等人听说苻坚来投。慕容宝建议趁此机会杀死苻坚起义。慕容垂不同意，他说自己这样做就是恩将仇报。他要在不违背良心的原则下得到天下，不会做这样的事情。
慕容德劝说他道：“我们是为国家报仇雪耻，并不是违背良心！”
参军赵秋说：“如果你想复兴燕国，现在就是机会。杀死苻坚后，占据邺都，然后带兵西进。天下必是你的！”
慕容垂仍是不为所动，不但把苻坚接到营中好好招待，甚至把兵权交给苻坚。苻坚对慕容垂既感激又信任，于是领着这支兵马从许昌出发向西，一路收容被打散的小股部队，等到了洛阳的时候，部队已经有十五万之众，后勤储备也比较充实。苻坚在洛阳待了半个月后，开始向长安进发。
慕容垂的三子慕容农这一次向父亲请求带兵离开苻坚，到河北谋求发展。慕容垂再一次拒绝。
苻坚的军队来到渑池时，陇西鲜卑酋乞伏步颓造反了。正巧秦军的前锋将军乞伏国仁是乞伏步颓的侄儿，乞伏国仁忙向苻坚表示忠心，并请命去征讨乞伏步颓。乞伏鲜卑部落是从乞伏山（今贺兰山东北抵黄河的银川一带）迁徙到苑川（今甘肃省兰州市东）的一支少数民族部落，开始只是松散的游牧部落，只有简单的官制，没有固定的国界，只是为了生存而战争。东晋咸和（326—334）年间，石勒的后赵势力渐渐伸入秦陇，乞伏部的首领乞伏傉大寒只得北迁到麦田无孤山（今甘肃省靖远县北）游牧。前秦苻健在位的时候（351—355），傉大寒的儿子司繁又东迁到度坚山（今甘肃省靖远县西）。公元371年，前秦苻坚派将军王统率兵讨伐。司繁统领三万骑兵在苑川抗击，被王统打败。乞伏司繁投降苻坚。后因乞伏司繁帮助前秦屡建战功，授使持节、都督讨西胡诸军事、镇西将军。乞伏司繁死后，由其子乞伏国仁代行其职。也就是说，乞伏国仁是乞伏部落中传统意义上的最高首领。
也正因为如此，乞伏国仁带兵去讨伐乞伏步颓，乞伏步颓反而出来迎接，并劝说乞伏国仁自立。乞伏国仁没有敢公开反叛宣布独立，但是他率军队割据陇西，并召集鲜卑各部，聚集了十余万军队，并胁迫周围诸郡背叛前秦，拥立自己，等待机会叛秦。
苻坚把乞伏国仁派走后，慕容垂也向苻坚辞行，称河北也有叛乱，自己愿意去河北替秦国镇压。因为许昌让兵权的事，苻坚很信任慕容垂，遂说你去吧，有你在，河北我可以无忧了。
慕容垂北去后，权翼刚刚带一支军队赶来，听说苻坚让慕容垂带兵去了河北，着急道：“完了，完了！慕容垂绝非久居人下之将，此去河北必然自立。”请求苻坚立即派人把慕容垂抓回来。
苻坚不好意思派兵把慕容垂抓回来，便想了一个补救办法，派骁骑将军石越率精兵五千去戍邺城，骠骑将军张蚝率五千羽林军去镇守并州，镇军将军毛当率七千兵去守洛阳，借以牵制慕容垂。权翼再劝苻坚，苻坚仍然坚持自己的做法。权翼走出大帐叹气道：“关东就要大乱啦！”
权翼心有不甘，自带一支人马去追，慕容垂早就快马加鞭，抄近路日夜兼程，跑得远远的了。权翼没能追上慕容垂，只得回兵随苻坚入关。
到了长安城下，苻坚忽然放声大哭不肯入城。群臣问苻坚为何，苻坚道：“朕是哭我的弟弟苻融啊。如果当年听了他的话，何至于有今日之辱？”遂令在城外驻扎，全军换上白衣孝服，先祭奠了苻融及阵亡将士，又去王猛墓前祭拜，这才入长安城。
不久，洛阳传来急报报，说丁零、翟斌在新安聚众七千造反，原燕国宜都王慕容桓之子慕容凤也率三千鲜卑士兵造反。平原公苻晖派毛当镇压慕容凤，被慕容凤击败杀死。现在翟斌和慕容凤正联兵进攻洛阳。苻坚急忙命令长乐公苻丕调冀州兵南下平叛。
这时，在邺城驻军的苻丕刚刚迎接到慕容垂的军队，他本来想把慕容垂杀死，但侍郎姜让认为慕容垂是来帮他平叛的，虽然此人很可疑，但没有杀他的理由，最好暂时先不要动他，不然会引起非议。苻丕于是亲自把慕容垂迎入邺城，殷勤招待，但对慕容垂还是很忌惮。正好苻坚援助洛阳的命令下来，苻丕赶紧打发慕容垂率三千鲜卑兵去洛阳，并派广武将军苻飞龙率一千名氐族骑兵随军监视。
慕容垂领兵南行到安阳汤池便不走了，停下来招兵买马，很快聚齐八千士兵。苻飞龙催促慕容垂进兵。慕容垂继续行军，在行军途中派慕容麟、慕容隆突袭苻飞龙，将苻飞龙和他的一千氐族骑兵全部杀死，又派参军田山潜回邺城通知慕容农等三人，让他们赶紧逃出邺城。慕容农与慕容楷、慕容绍等人带了亲信数十人骑快马连夜出城。这时正是大年初一，苻丕大会宾客，派人去请慕容农赴宴，去的人却见慕容家中空无一人，苻丕赶紧派人四处搜捕。数日后传来消息，慕容农等已在列人县（今河北邯郸肥乡县东北十五里）起兵反叛，招募军队三万人。
与此同时，慕容垂已经到了洛阳城下，正在围攻洛阳城的翟斌、慕容凤全部归附慕容垂。慕容垂分析形势说，洛阳四面受敌，不利于作为根据地长期占据，如果北取邺城，则可以先得河北之地，然后以其为根本而得天下。
慕容垂的意见得到大家的响应，于是慕容垂率军撤洛阳围杀向邺城。路过荥阳的时候，荥阳太守余蔚、昌黎鲜卑卫驹等率军队来投奔，并请慕容垂立国，上尊号。慕容垂遂自称大将军、大都督、燕王，承制行事，建元为燕元，称为统府。史称后燕。
到这个时候，慕容垂手下军队已经多达二十万，遂由石门渡河，向邺城进军。
苻丕手下的部将石越带两万军队正和慕容农在列城大战。慕容农夜袭秦营，石越大败后自杀。慕容农得胜后也带兵攻向邺城。
苻丕见慕容垂带大兵压境，不敢出战，死守城池。慕容垂久攻不下，只好一边把邺城围住，一边派人到肥乡（今河北省邯郸市肥乡县）筑造新城，以做根据地。
苻坚见慕容垂果然造了反，正打算调兵遣将去镇压。慕容的弟弟，北地长史慕容泓也在华阴（关中平原东部，陕西省华阴市）起兵造反了，自称都督陕西诸军事、大将军、雍州牧、济北王。苻坚十分郁闷，他对权翼说：“当时不听你的话，结果造成了这个局面。关东的地方就不说了，关中的慕容泓不可不除！”急调雍州牧、巨鹿公苻睿回长安，以左将军窦冲为长史，龙骧将军姚苌为司马，出兵五万，出讨慕容泓。
造反之势如星火燎原。苻坚这边才刚起兵，山西平阳太守慕容泓的弟弟慕容冲也反了，并率兵马二万进攻蒲阪。苻坚只得把五万部队分成两路，一路由窦冲领兵去征讨慕容冲，另一路由苻睿、姚苌带领去征讨慕容泓。
在华阴，慕容泓被秦军打败，带兵向东逃窜，苻睿亲自带三千骑兵星夜追赶，欲全歼慕容泓。不幸的是苻睿带兵追到华泽（今山西永济南），路过一片沼泽，一下子全陷进去了。这真是人倒霉了喝凉水都塞牙。慕容泓熟悉地形，早绕过了这片沼泽向西逃，突然听说苻睿的骑兵全陷入沼泽中了。慕容泓急忙带一千弓箭手骑快马奔回，对着苻睿的军队一阵狂射。可怜苻睿及其三千骑兵，全被射死。慕容泓这才从容退去。
等姚苌带着后军到了，只看到沼泽中一片凄惨的景象。姚苌只好派长史赵都、参军姜协去向苻坚谢罪，自己继续追击慕容泓。苻坚一听自己最小的儿子叫慕容泓乱箭射死在沼泽当中，心痛万分。这事本来和赵都、姜协无关，他们只是来报信的，却被苻坚迁怒，当即被拖出去斩首。姚苌听赵都和姜协被杀了，估摸着自己更不可免，于是把军队解散，带着十几名亲信跑到渭北去了。
慕容泓见没了追兵，便留在晋南招募鲜卑士兵，很快聚集五万士兵。这时慕容冲刚被窦冲打败，于是也率败军一万赶来投奔。慕容泓派使臣给苻坚说，秦国当年灭了燕国，而现在燕国的吴王慕容垂已平定关东。请您把我们燕国的皇帝和皇室宗室功臣全家都送回到邺都，以后秦燕两国以虎牢关为界，可以永远做好邻居。
苻坚见了这封信，气不可遏，当即让人把慕容带上殿来，把这封信扔在他面前大骂不止。慕容害怕狂怒的苻坚把他全家杀了，叩头一直到额头流血，一再谢罪。最后苻坚还是心软了，并没有惩罚慕容，只是让慕容写信招抚慕容垂、慕容泓等人。慕容回家后，密派亲信给慕容泓带去一封信。信中说：“我肯定不能生还，而且我也是燕室的罪人。所以你们不要顾念我，你可以代行皇帝事，以慕容垂为相国，慕容冲为太宰、领大司马，你为大将军、领司徒，承制封拜。如果我死了，你马上继位。”
慕容泓接到信后，便称制改元，史称西燕。
姚苌是羌族首领姚弋仲的儿子，陕北本是姚弋仲部族发迹的地方。所以姚苌逃到渭北马牧，便有天水羌人尹纬、尹详，南安羌人庞演等羌族豪强带着手下的百姓来投，并拥姚苌为王。姚苌于是自称大将军、大单于、万年秦王。史称后秦。占有华阴、北地、新平、安定等地。
苻坚亲自率领三万人征讨姚苌，在赵氏坞与姚苌决战。姚苌大败，退入安公谷据守。苻坚一时不能攻入，即命将安公谷包围，并断绝水源。这时候正是盛夏，安公谷挖井又挖不出水来，一直挖了几十米深，才挖到一点点细流，根本无法解决四五万人马的喝水问题。被包围数天之后，便开始有人马渴死。后秦频阳的守将游钦，率三千人马来救姚苌，被苻坚手下大将杨璧打败并生擒。姚苌又派弟弟姚尹买，挑出二万精兵去抢攻官水堰，决堤取水，又被窦冲伏兵打败，姚尹买及羌兵全部战死。
接下来一连几天，姚苌的军队渴死者上万。姚苌已经绝望了，他把剑磨了磨，准备自杀。这时突然天降暴雨，后秦军队驻地因为地势低，很快积水三尺，将士们在雨中齐声欢呼，正所谓痛快淋漓。秦军那边，下雨之前苻坚当时正要吃饭，见天降大雨，他把筷子�