但仍然不能从根本上解决问题。这时在中山的慕容农称中山城比较富足，粮食也不成问题。于是慕容垂让鲁王慕容和带一小部分军队驻守邺城，自己率大众迁都中山，并于次年正月，在中山称帝。这时燕国有两个皇帝，一个是西燕的慕容冲，一个是后燕的慕容垂。
苻丕向西来到晋阳的时候得到长安陷落，苻坚被杀的消息，不久又听说太子苻宏也投奔了晋朝，苻丕及众人放声大哭。万幸的是并州在秦骠骑将军张蚝、并州刺史王腾的治理下还算稳定，王猛的儿子、幽州刺史王永也因后燕的进攻而率领五万士兵西退到晋阳。前秦此时还具有一定的实力，于是苻丕在晋阳继皇帝位。
这时吕光已经平定了西域，驻兵在龟兹。龟兹地处交通要道，是个繁华大城市，一点儿也不比长安差。吕光又算是西域的最高地方长官，成了当地的土皇帝，有权有钱的日子过得很是滋润。但时间长了将士们都有思乡之心。不久又传来苻坚淝水大败，慕容、姚苌纷纷自立的消息，吕光便带着部队东归。
凉州刺史梁熙本有割据凉州的打算，听说吕光来了，第一件事先把行唐公苻洛给杀了，以防此人与吕光里应外合，又命高昌太守杨翰等人严守险关，不许吕光入境。哪知道吕光一路进军，所过郡县纷纷请降，杨翰等人全部投奔了吕光，高昌、玉门、敦煌、晋昌等郡很快落到吕光手中。
梁熙急派儿子梁胤、大将姚皓、别驾卫翰，率五万部队来到酒泉据守。但梁胤的军队很快被吕军击败，梁胤被擒；吕光接着进军到姑臧城下时，武威太守彭济带兵把梁熙擒住，献城投降。吕光命将梁熙父子斩首，然后派人到凉州各处发号令，命令其他的州郡投降，但酒泉太守宋皓和西郡太守索泮坚决不降。吕光派兵很快将两城攻下，将二人斩首。至此，吕光占据凉州，自称凉州刺史。这时传来苻坚死讯，吕光遂令三军为苻坚戴孝穿白，并举行了盛大的丧礼。第二年十月，吕光又自称使持节，侍中，中外大都督，督陇右、河西诸军事，大将军，凉州牧，酒泉公。史称后凉。
这时，奉养代王什翼犍嗣孙拓跋珪的刘库仁死掉了，他的儿子刘显继承了他的位子。刘库仁替秦国管理着代国旧地黄河以东的地区，这些地方居住的都是原代国的拓跋鲜卑民族。拓跋珪年已十六岁，不但武艺出众，而且拓跋族的各部落首领也对这个代王之后特别尊重。刘显担心拓跋珪对自己的权力形成威胁，便想杀掉他。原代王拓跋什翼犍的外甥知道这个消息后急忙告诉拓跋珪的母亲贺氏。贺氏用美色引诱刘显，把刘显灌醉，拓跋珪遂带着长孙犍、元佗、罗结等人悄悄逃走。
刘显一觉睡到第二天大中午才醒来，不见了拓跋珪，知道受骗，便问贺氏要人。贺氏的弟弟刘亢泥苦苦为贺氏求情，刘显又恋贺氏美色，总算没有杀她。不久刘显得到消息，拓跋珪已到了贺兰部，外朝大人贺悦、南部大人长孙嵩等都率着各部落去投奔拓跋珪。刘显于是亲率一支军队去攻打贺兰部，由于贺兰部早就得知消息迁移，刘显没能追上。而中部大人庾和辰趁刘显出兵，也率部跑了，而且还把贺氏也带走了。
拓跋珪逃到贺兰部投靠他的舅舅贺讷。贺讷遂把此贺兰部交给拓跋珪，接着拓跋鲜卑族的许多部落都来投奔，拓跋珪很快拥有三十万的部众。拓跋珪大悦，遂于东晋太元十一年正月（386）戊申，即代王位，定都盛乐城。四月，拓跋珪因“代王”是晋朝封号，改“代”为“魏”，自称魏王。史称北魏。
这时，刘显的弟弟刘肺泥、族人刘奴真都离开刘显，率部降魏。拓跋珪认为歼灭刘显，统一代国旧地的时机到了，遂联合后燕，一起去攻刘显。刘显被燕魏联军杀得大败，逃到马邑西山。魏燕联军追到马邑西山与刘显的军队又打了一仗，刘显又大败，这次刘显的家底彻底赔光了，只带着一百多亲信逃到西藏，后来便再没有此人的消息。燕军把刘显手下的所有军队和百姓，还有数以千万的马牛羊吞并后南归，并且立刘显的弟弟刘可泥为乌桓王，对这些刘显旧部进行管理。
拓跋珪则得到了刘显的地盘，他以此为基础，又派兵四处征伐，很快将库莫奚、吐突邻、高车、纥突邻、纥奚等部统一，只有柔然部去投靠了刘卫辰。拓跋珪亲率大军去征柔然，柔然并不迎击，而是一直向西逃。柔然逃跑的速度比兔子还要快，魏军全部是骑兵，竟然连追六百里不见柔然部的一点儿踪影。拓跋珪手下的诸将都劝他回去，拓跋珪坚决要追。部将称粮食不够了。拓跋珪问：“如果杀副马作为军粮，够不够三天的口粮？”部将道：“足够。”游牧民族的骑兵部队，每名骑兵除了自己骑的马外，还有一到两匹备乘的马，叫做副马。
拓跋珪于是命令以副马为粮，继续追击，终于在大碛南床山（今蒙古国境内席勒山）下追上柔然，击败柔然，俘虏了一半以上的柔然部落。只有柔然部的匹候跋和别部帅屋击分别领着小部分柔然部落逃走。拓跋珪命令长孙嵩、长孙肥继续追击。长孙嵩追上帅屋击部，将其全部歼灭，帅屋击被杀；长孙肥在涿邪山追上匹候跋，匹候跋不等长孙肥进攻便赶紧投降了。
平定柔然后，拓跋珪为将士摆庆功宴，在宴席上他问诸将：“你们知道我为什么要问以副马为粮可不可以支持三日呢？”众将都不明白。拓跋珪道：“柔然已经连续奔走了很多日，一定也人困马乏，到了有水草的地方必定会停留。所以三日一定可以追上。”
拓跋珪正在摆宴庆贺的时候，后方传来消息，刘卫辰趁魏军出讨柔然，以其子刘直力鞮带兵八万进攻魏国。拓跋珪立刻带军队回去，在铁岐山南大败刘直力鞮的军队。刘直力鞮带兵一路南逃，魏军在后追击，一直从五原金津南渡过黄河追到刘卫辰的领地，随后攻到悦跋城下。刘卫辰父子连城都不敢守，弃城而逃。最后被魏军的轻骑在木根山下将其全家擒获，只有刘卫辰的小儿子刘勃勃一人得以逃脱。拓跋珪命令将刘卫辰全家、宗亲以及党羽五千多人全部杀死，把尸体扔到黄河里去。至此，黄河以北的各部也被拓跋珪统一。
前面说到翟真的堂兄翟辽带着一小股部队南逃到黎阳，投奔东晋。黎阳太守滕恬之将翟辽收留，但翟辽利用滕恬之爱好畋猎，不恤士卒的弱点，收买人心，发动兵变，将滕恬之软禁，占据黎阳。很快，丁零族人纷纷投奔翟辽，翟辽又拥有了数万人马。
后燕魏郡太守齐涉聚众一万人投降翟辽，在新栅（今河北省清河县西）据守，东晋泰山太守张愿率一万部队也降了翟辽，在祝阿县（今山东省德州市齐河县）的甕口驻军。
后燕慕容垂遂派慕容德、慕容隆带兵两万去进攻张愿。慕容德、慕容隆行军至斗城（今山东禹城西南）。离甕口二十余里，燕军停军休息，准备休息够了再一鼓作气，去攻甕口。哪知道刚刚解下马鞍，埋锅造饭，张愿突然带兵杀来。慕容德的军队仓皇抵抗，赶紧后撤；慕容隆的部队却很快集合完毕，反击张愿的军队。张愿的儿子张龟在战斗中被燕将王末杀死，张愿败退。
慕容德的军队看到张愿败了，又整兵回来，与慕容隆的军队合兵一处追击张愿的军队，一直追到甕口，再次大败张愿，张愿带着残军退守三布口（今山东肥城县东）。燕军很快收复了历城（今济南市东南部历城区），尽占青、兖、徐三州郡县。不久，新栅的冬鸾也发动兵变，擒获齐涉父子投降后燕。慕容垂命令将齐涉父子二人斩首，其他人一律赦免，然后再次整军，亲自率军南征翟辽。翟辽估摸着自己不是后燕的对手，便赶紧派使臣向后燕请降，慕容垂遂罢兵，封翟辽为徐州牧，河南公。但等燕军回兵之后，翟辽又后悔了，与慕容垂断绝臣藩关系，自称魏天王，建都滑台（今河南滑县），史称翟魏。时为公元388年2月。
公元385年慕容冲攻破长安后，既贪恋长安的繁华安逸，又不愿东归与叔叔慕容垂争夺领土，于是便在长安待了下来。但鲜卑将士和贵族都希望能回故地，不愿久留长安。公元386年2月，左将军韩延杀死慕容冲，拥立前将军段随为西燕王。
段随并不是慕容皇族，因此遭到慕容家族的反对，仅仅一个月后，长安再起兵变，仆射慕容恒、尚书慕容永、武卫将军刁云率燕兵攻入宫中，杀死段随。三人拥立慕容皝的孙子慕容凯为燕王，然后带领四十多万鲜卑人离开长安，开始了用鲜血铺就的东归之路。
姚苌等慕容鲜卑一离开长安，立刻带部队进入长安，然后称帝，国号“大秦”。
西燕离开长安不久，在行军途中又发生政变。慕容凯被慕容恒的弟弟慕容韬所杀。慕容韬与慕容恒又立慕容冲的儿子慕容瑶为燕王。因为慕容冲就是因为不愿东归而被杀的，很多人对慕容冲及其后人并不服气，担心他们对东归不利，鲜卑众将都转而支持慕容永。慕容永也不同意立慕容瑶为燕王，便率兵把慕容瑶从慕容恒兄弟手上夺过来杀掉，立慕容泓的儿子慕容忠为皇帝，但几个月后慕容忠又被刁云所杀，众将拥立慕容永为主。慕容永被推为大都督、大将军、大单于、雍秦梁凉四州牧、河东王，并派使臣联络后燕，向后燕皇帝慕容垂称臣。
就这样一路行军一路杀，伴随着内乱和内讧，鲜血与阴谋，西燕部族终于来到了并州闻喜县。这里是前秦的地盘，于是慕容永派人去向苻丕借道。慕容族曾攻破长安，把前秦的老家给抄了，苻丕能借道么？苻丕亲自带兵八万去攻击西燕。
秦军与燕军在襄陵大战，秦军大败，前秦的文臣武将大多都在这次战役中战死。慕容永遂占据山西，并以长子为都，登基做了皇帝。
苻丕带着五六千败军南逃至陕县，被东晋将军冯该袭击。苻丕在战斗中被杀死，太子苻宁、长乐王苻寿等人都被擒获，送到建康。东晋皇帝对他们还不错，全部赦免，交给先逃到东晋的太子苻宏管理。另有尚书寇遗、勃海王苻懿、济北王苻昶在这次战斗中逃脱，三个人化装作乞丐，一路向西，去投奔南安王苻登。
苻登是苻坚的族孙，在前秦的官职为殿上将军、长安令，打仗十分勇猛，性格豪放刚烈。后来因为有过失被贬为狄道（今临洮县）地方官。后来苻坚被害后，姚苌的弟弟姚硕德占据秦州。苻登遂自命为都督陇右诸军事，抚军大将军，雍、河二州牧，略阳公，率众五万与姚硕德争夺秦州的地盘，同时向苻丕请命，争取合法地位。苻丕当然很高兴有这么一支生力军，于是封苻登为征西大将军、南安王。苻登与姚硕德争战的时候，正遇上大旱之年，陕甘之地，颗粒无收，士兵饥饿难忍。苻登于是对众将士道：“你们早晨出去打仗，晚上回来就能得到美食饱餐，还怕没有吃的么？”意思就是让将士们吃敌人的肉。于是每次打仗，苻登的军队都拼死冲锋，争着杀死敌人，打完仗后便蒸吃敌人尸体的肉，还把这种食物称为“熟食”。因此虽然是大饥之年，苻登将士反而满面红光，十分壮健。姚硕德的军队又饿又怕，急忙向姚苌报告：“你们的援军再不快点来救我们，我们就要都被苻登吃光啦！”姚苌于是让太子姚兴、弟弟姚绪留守长安，自己亲自率领五万大军来救。
苻登的将士十分勇猛，所向无前，后秦军被打得大败，五万兵被打死打伤两万，姚苌带着剩下的人马急忙逃回姚硕德镇守的上邽。
苻登刚刚在上邽城下扎住营，寇遗、苻懿和苻昶便带来了苻丕战死，前秦在山西的地盘被慕容永所占的消息，苻登为苻丕发丧之后，打算立苻懿为帝。
苻懿这个时候年纪还小，当然更无战功和威信，众人都认为在此乱世之中，还是跟着苻登混比较可靠，于是一致拥立苻登为帝。苻登推托了几次，见大家是真心拥立自己，便乐得顺水推舟，当了皇帝。
前秦将士知道秦国已经不能与当年同日而语，四周都是强敌，随时都有被歼灭的危险，于是纷纷在自己的兵器和铠甲上刻上“死、休”等字，以表宁愿战死沙场的决心。苻登还创立了一种战阵，用长槊和钩刃结成方圆大阵向前猛攻，阵后的将士随时根据战斗需要而补充人员。无论是在士气上，还是在战术上，苻登的军队都要强过姚苌。因此，苻登与姚苌屡战屡胜，打得姚苌抱头鼠窜。姚苌认为苻登一定是得了苻坚神灵的帮助，突发奇想，令木匠刻了一座苻坚神像，祭祀祷告之后，抬到阵前再与苻登交战，结果还是大败。姚苌气愤至极，把苻坚神像的脑袋给砍下来，然后弃城而逃，退守安定，又派一支队伍连夜赶到