不过，发生在关西地区的这次人口流动，还只是揭开了魏晋南北朝人口流动的序幕，其影响也主要是在西北到西南地区。更大规模的流民浪潮，还是发生在以黄河流域为中心的广大北方，时间则是从刘渊起兵，特别是永嘉六年（312）刘聪攻陷洛阳、虏获晋怀帝司马炽，也就是让当时的西晋士大夫深感亡国之痛的“永嘉之乱”发生之后。“永嘉之乱”促成了魏晋南北朝时期人口流动的第一次高潮。

“永嘉之乱”，晋怀帝被俘，神州陆沉，北方人民心中的最后一丝希望终于破灭，于是纷纷逃亡、四出避难。从全国的范围来看，当时北方人民的出逃线路主要有三个方向，即东北、西北、南方。流向东北的一支，被鲜卑慕容廆（wěi）所收容。慕容鲜卑能够坐大于东北，并建立前燕，都有赖于所收留的中州流民。据历史记载，由于流入东北的中州人士很多，慕容廆为他们专门设置了冀阳郡（冀州人）、成周郡（豫州人）、营丘郡（青州人）、唐国郡（并州人）。慕容廆还从这些流民中选拔所需要的人才，这批人在前燕的建国和东北的开发方面，都发挥了重要作用。

另外，大家需要注意的是，前燕在文化、制度等方面，比起刘渊建立的汉赵（按，刘渊建国时称为“汉”，319年刘曜迁都长安，改国号为赵，史称“前赵”，因此学术界往往称之曰“汉赵”）、石勒建立的后赵都要先进，与他们收容流民，并注意从流民中选拔任用人才，有很大关系。

流向西北的一支，主要是投奔凉州的张轨。凉州当时被称为河西，张轨在相当长时间里一直向司马氏的晋政权称臣，因此逃难来到这里的中原人士，对于张氏十分有好感。因为这个原因，所以占星家在夜观天象之后，一致认为：在天下大乱的时候，只有河西地区才是最好的避难之所，因为凉州牧张轨是一个有道德、有度量的人，值得依赖。因此，当京师洛阳沦陷，“中州避难来者日月相继”，对于突然涌入的中州士民，张轨表现出很高的热情，从武威郡中专门分出了一个武兴郡，来安置这些避难的中州人士。中州士民进入河西，不仅带来了中原地区先进的技术文化，有力地促进了河西地区经济文化的进步，也为其后“五凉”政权的建立和巩固提供了智力支持。

不过，“永嘉之乱”后的人口流动，规模最大的还是流向南方的一支，《宋书》记载了这一人口流动的“盛况”：“晋永嘉大乱，幽、冀、青、并、兖州及徐州之淮北流民相继过淮……徐、兖二州或沿江北，江北又侨立幽、冀、青、并四州。”这几句话的意思是，永嘉之乱发生后，幽州、冀州、青州、兖州及徐州的淮北流民相继渡过了淮河，有些人又来到长江以北，于是政府就专门为这些流民侨置了幽、冀、青、并四州。如果再加上侨置于徐州的司州、侨置于京口（今江苏镇江）的南徐州，那么，在永嘉之乱时侨置的州至少有六个。不过，这还只是此次移民的第一阶段。

晋成帝司马衍咸和（326—334）初年，因为发生苏峻、祖约之乱，加上后赵胡骑南侵，这批滞留在江淮之间的流民再次迁徙，渡过长江来到江南。这是第二次较大规模的人口移动。

东晋孝武帝统治时期（373—396），又发生第三次较大规模的人口移动。不过，这次流民的移入地不是长江下游的三吴地区，而是长江中游的襄樊地区，这是因为关中和中原地区的少数民族政权之间发生了大规模的战争，也就是史书所说的“胡亡氐乱”。“胡亡氐乱”的主战场是雍秦（今河南、陕西）一带，因此凄凄惶惶、绝粮在陈的民众，只能双眼含泪 ，挥手作别已经硝烟弥漫的家园，去寻找新的栖息地。