“宇文”二字，既表示姓氏，也表示部族，是鲜卑语的音译。《北史》说“宇文”意为“天子”，恐有附会之处。据杨宪益先生考证，鲜卑语的“宇文”与今天满语的Niowan（青色）一词同源，专指当时的一条河——青水，也叫濡水（今滦河上游，内蒙古赤峰一带），是宇文部族起源的地方。杨先生甚至还断言，宇文的意思“青色”，也就是“黑色”，其实正对应宇文泰的鲜卑名“黑獭”的前半部分。这个说法未免夸张了些，因为鲜卑人的名姓一般是分得很清楚的，而不像某些民族那样有名无姓，不过亦可看作一家之言。
宇文部驰骋塞外，被慕容部建立的前燕所灭，遗民内迁到昌黎，我们在《纵横十六国》中已有详尽介绍。后燕被北魏打败后，宇文氏的掌门人宇文陵举家投奔了拓跋珪，不久后就迁往六镇之一的武川镇。
从宇文陵到宇文泰，宇文家族在武川镇共经历了五代。武川镇的西面紧邻高欢所处的怀朔镇，破六韩拔陵起事，这两个镇都是重点攻击的对象。（有趣的是，六镇时代，宇文泰在东，高欢在西；将来称霸天下，两者却调了个个儿，高欢在东，宇文泰在西）
宇文泰的父亲宇文肱，并没有逐大流跟着造反，而是与武川军主贺拔度拔组织了一支骑兵队伍进行抵抗。破六韩拔陵攻打武川的部将卫可孤，便是死于宇文肱与贺拔度拔发动的突袭。
宇文肱有四个儿子：长子宇文颢，次子宇文连，三子宇文洛生，宇文泰年纪最小。将门出虎子，宇文肱虽算不上将门，却也是在六镇几代相传的职业军人，四个儿子自小在马背上长大，上了战场个个生龙活虎，不在话下。
与卫可孤一战，敌军人数极多，刺杀卫可孤得手后，宇文肱的战马忽然受惊，不慎翻身落马，面临围攻。宇文颢远远望见，迅速率领几骑人马，冲入重围，所向披靡，杀退了数十名敌军士兵。他亲自断后，掩护父亲上马脱身，敌军骑兵重新集结，蜂拥而至，宇文颢寡不敌众，力竭而死。
宇文肱痛失长子，恨不能回转身去马上报仇，可他也清楚，就靠眼前纠结起的这点兵力，搞突袭或许有胜算，要想彻底打败遍地皆是的反政府武装，形同痴人说梦；兵荒马乱之际，塞上六镇已非久居之地。想到此，他带着三个儿子，跟着贺拔度拔等人，向南逃亡。
当时北魏朝廷的军队主力，由广阳王元渊率领，驻扎在五原（今内蒙包头西北）。贺拔度拔让次子贺拔胜先行一步，赶往五原，通报袭杀卫可孤的消息，以便接洽。风云难测，贺拔胜刚走，贺拔度拔与宇文肱的部众便遇到了反叛北魏的敕勒骑兵的袭击。贺拔度拔战死，其余人马也失散，宇文肱父子向东避往中山，贺拔度拔的另两个儿子贺拔允和贺拔岳则南下五原，投贺拔胜去了。
（贺拔胜才略过人，到了五原后深受元渊器重，被任命为军主，之后因屡立战功又升为将军。宇文泰后来兴起，贺拔兄弟的这股军事力量极为关键。）
宇文肱父子在中山并没有过上几天和平的日子。
破六韩拔陵虽然被镇压了，但他的六镇军投降的仍有数十万。北魏把这些人重新安置到河北各州的军府，意思说，边境上我力所不逮了，那就移到我有能力控制的范围之内吧。
由于朝廷军征剿不力，各地的叛乱客观上迫使地方武装发挥作用，借机强大起来。这跟秦末陈胜起义、汉末黄巾军大起义导致军阀割据混战的局面，道理上如出一辙。中国历朝历代，凡定都北方的王朝一到末期，几乎都是因内乱一发而不可收，最终走向分崩离析、社会重组，典型的还有隋、唐、元、明、清；而定都南方的王朝一到末期，则几乎都是因敌国（或敌对势力）入侵而灭亡，典型的如之前的蜀汉、东吴、之后的南陈、南宋、民国等等。
把投降的六镇军民（“降户”）放在边境地区，容易为那些准军阀所利用，确实不合适；但是摆到自己的眼皮子底下，在王朝全盛时期或许是高招，现在却只可能是雪上加霜，北魏朝廷过分相信自己的军力和控制力了。
元渊听说朝廷的决定，立即感叹道：“此辈复为乞活矣，祸乱当由此而作。”他不由联想到了对十六国大乱具有重要影响的流民军队——乞活军，也预见到更大的祸乱即将降临，却只能发出无奈的哀鸣。
杜洛周和鲜于修礼以实际行动给了元渊一个肯定的答复。
杜洛周是出自柔玄镇的鲜卑人，杜是孝文帝时期改的单姓，鲜卑姓是“独孤浑”，南朝的史书里写作“吐斤”。鲜于修礼来自怀朔镇，地位更低。“鲜于”这个乍一看很鲜卑的姓，其实与鲜卑无关，他是十六国时期迁入华北的丁零族的后裔，与敕勒人倒攀得上近亲。
鲜于修礼在定州的左人城起兵，宇文肱父子赖以避乱的中山，正是定州的治所。宇文肱的部众虽不是“降户”，却也被鲜于修礼一股脑地编入军中，攻打定州城。（在后期的起义队伍中，像高欢那样一心为折腾而来的是少数，像宇文肱父子这类明显无意造反的人，比例是相当大的。可见北魏朝廷对于由六镇涌入河北的大规模镇民，没能出台一套有效的抚恤和管制方案，以至民众无所适从，唯一的选择就是跟着军头上司混饭吃。反正已经天下大乱，死在战场上，总好过死在逃难中）
元渊镇压破六韩拔陵立了大功，在六镇降户中很有威慑力，本是对付鲜于修礼的最佳人选。北魏朝廷却对他怀有猜忌（从宣武帝到孝明帝内斗了好多年，宗室越是声望高，能力高，越是不敢重用），召他回洛阳，任命左卫将军杨津为北道大都督，前往支援。
杨津是孝文帝手下猛将杨播（参见《明主昏君》）的弟弟，风度颇似其兄。他听说定州告急，防备不力，便挥师入城据守。鲜于修礼的军队猛攻东门，打下了外城，内城中喧嚣一片，军心不安。杨津亲自大开内城城门，出击迎敌。外城的敌军始料不及，被冲得七零八落，死伤数百人。
宇文肱和次子宇文连，都死在了这场战役之中。宇文洛生、宇文泰两兄弟来不及擦去悲痛的泪水，就随大军南撤到了呼沱河畔（今河北正定一带）。
鲜于修礼的士气跌入低潮，北魏朝廷派扬州刺史长孙稚与河间王元琛北上，想来个彻底解决，哪知反倒给鲜于修礼的军队送上大礼。长孙稚和元琛有私人恩怨，不但不能安心合作，还互相掣肘。战场上长孙稚不想进攻，元琛不听，执意要打。两人的军队一支在前，一支在后，失去了呼应。长孙稚的军队在走到呼沱河北面的五鹿时被鲜于修礼拦腰截击，元琛也不回军相救，魏军大败。
鲜于修礼绝处逢生，触底反弹，势头更盛，麾下大军号称十万，超过了北面的杜洛周。这时，起义军内部发生了内讧。鲜于修礼手下一名叫作元洪业的部将乘他不备，把他杀死，想挟众投降北魏，军中一时溃乱。另一名部将葛荣收拾部众，攻杀了元洪业，成为起义军新的首领。
葛荣是鲜卑人，本姓贺葛，以前在怀朔镇做过镇将，对于打仗的事儿懂的比只做过镇兵的鲜于修礼要多。（在这种乌合之众的军队里，有本事的怕横的，横的怕不要命的。真正能打仗的未必有出头之日，不过最后还得靠他们出来收拾残局。从鲜于修礼到葛荣，从葛荣到后来的高欢、宇文泰，无不如此，所谓“大浪淘沙始见金”）他一接手，起义军的战斗力便发生了质的飞跃。
长孙稚、元琛失利后，北魏朝廷撤了两人的职，重新任命广阳王元渊为大都督，章武王元融为左都督，裴衍为右都督，同时受元渊节度，三军并进。
葛荣避开魏军主力，率军退到北边的瀛州，转战白牛逻（今河北蠡县一带），以轻骑兵与元融的左军周旋，击杀元融。元渊退往定州，定州城中的杨津怀疑他要造反，不但不纳他入城，还派都督毛谥出兵讨伐。元渊从小路逃跑，在博陵地界被葛荣的部下俘虏，随后斩首。
连杀了魏军两位亲王，葛荣春风得意，俨然河北霸主。孝昌二年（公元526年），他自称天子，国号大齐，改元广安；然后再度南下，围攻冀州治所信都城。
在杜洛周军中不遂心愿的高欢，也于此时转投葛荣的帐下。