东魏与西魏之间的争战，从东魏天平元年（公元534年）孝静帝即位开始，一直打到武定八年（公元550年）东魏被北齐取代，基本上保持着年年有小仗，三年一大仗的规模。之所以会如此，根本原因在于它们都视对方为谮伪，不承认对方政权的合法性，恨不得立即将对方置于死地。
就正统性而言，双方各有各的道理。东魏方面依然据有原北魏的国都，以及统治的中心地区，除了关中、陇西的几个州和贺拔胜的荆州，其他大部分州都向东魏称臣，写《魏书》的魏收是东魏-北齐的大臣，自然也把东魏作为正统；西魏方面握有原北魏最后一个皇帝，以“帝统”来论，它的正统性不该受到质疑，《资治通鉴》就以西魏为正统，仍然称之为魏。
其实，高欢对于孝武帝的帝位，也不敢有半点否定的意思——孝武帝本来就是他拥立的，假若孝武帝以讨逆的名义，发动关中的兵力来对付他，的确会给他带来不少麻烦。问题是，孝武帝在长安待了不到半年就死了，宇文泰成了高欢口诛笔伐的弑君者，他所立的继位者，高欢完全不予承认。
孝武帝之死，是他自身的悲剧，但又很难让人对他产生同情。他从洛阳跑到长安，是为了做手握实权的真皇帝，然而寄人篱下，又怎么可能为所欲为？宇文泰对皇帝的态度毕恭毕敬，是要把他供奉起来，作为自己的政治资本。孝武帝悲哀地发现，自己傀儡的身份没变，变的只是幕后的操纵者，裴侠的预言，不幸应验。心灰意冷之余，他“自甘堕落”，把三个堂妹封为公主，留在宫里享受，乃至乱伦。宇文泰对宫闱丑恶行径，坚决反对，就联合其他几位亲王，把孝武帝宠爱的平原公主元明月抓起来杀了。孝武帝气坏，我就这么点小小的“爱好”（虽然很变态），你宇文泰还来干涉！君臣二人的矛盾越来越公开。宇文泰便在酒里下了毒，送孝武帝上了西天。
西魏大统元年（公元535年），孝武帝的堂兄、平原公主的亲哥哥南阳王元宝炬在长安即位，是为西魏文帝。文帝是个比较听话的皇帝，把大权统统交给了宇文泰。
宇文泰很快收降了灵州的曹泥，将整个关中置于西魏的治下。尽管如此，西魏无论领土还是人口，都比不上东魏，要与东魏抗衡，就得强国富民，从内部进行全面整顿。关中自六镇之乱以来战乱频频，弊政累累，人民得不到休养。宇文泰命有关部门参考各朝的经验，颁行了二十四条新制，利在安民。宇文泰的内兄王超世担任秦州刺史，贪赃枉法被有司查获；为明正典律，他亲自过问此案，要求加重处罚，赐死了王超世。
他最大的妙招，是重用了苏绰这个人才。苏绰是汉人，世居关中的武功（今陕西武功西北）。他的特长，按照史书的说法，叫“尤善算术”，按照现代的说法，就是懂经济。真正懂经济的人才，即便在当今都是抢手货，何况是在一千五百年前的西魏。苏绰不仅懂经济，而且通晓古今，辩才极佳。宇文泰与他交谈，询问天下兴亡之道，他应答如流，令宇文泰啧啧称奇。宇文泰拜他为大行台左丞，参与机要事务。苏绰制定了一套文案程序，在西魏境内推广记账、户籍的标准。这便是中国千年“记账”制度的起源，仅此一点，苏绰就足以名垂青史。
人少地狭的关中经过宇文泰一系列的政策改造，境况有了改善；与此同时的东魏，高欢也在忙着巩固力量，清理门户。
在关东，高欢遇不到对手。他派侯景去荆州攻打贺拔胜，贺拔胜战败，南逃去了梁国（梁武帝待贺拔胜不错，后来放他回到关中，投在宇文泰的帐下）。他派娄昭（娄昭君的弟弟）等人攻打不服管的兖州刺史樊子鹄，也是不费很大气力，破城杀了樊子鹄。高欢又亲自领兵进攻北面的“稽胡”刘蠡升，先在战场上将刘蠡升的主力打败，接着又假意与他约和，突袭他的残部，消灭了这支为患北方边境多年的力量。
高欢在外东征西讨，却没想到自己的相府后院出了事。他休兵回到晋阳，便有一名婢女向他告，十五岁的世子高澄（高欢受封渤海王，长子高澄是王世子）与父亲的爱妾郑氏私通，并有两名婢女作证。
高欢顿时火冒三丈，回想早年颠沛流离，高澄作为长子，是唯一跟自己受过苦难的，现在老爷子享了福，总算可以纳几个美女为妾，在府上放纵一下，高澄竟也想来分一杯羹，成何体统！他当即把高澄叫来痛打一百板，关进了小黑屋，又迁怒于夫人娄昭君，把她也软禁起来，不许母子见面。这还不够，尔朱荣的女儿尔朱氏（即孝庄帝的皇后，高欢进洛阳后把他收入府中）为他生了个儿子高浟，他很喜爱，便想废掉不肖的高澄，封小高浟为世子。高澄和娄昭君都吓坏了，去请司马子如帮助调解。
司马子如的口才，前面介绍过，在高欢手底下是数一数二的（应该拉来跟西面的苏绰辩一辩，呵呵）。他不紧不慢地跑到高欢那里，装作不知情，求见娄昭君。高欢无奈地把家丑告诉他，又说过几天就把高澄换掉。
司马子如叹了口气，说：“各家都有本难念的经，我儿子消难也跟我的小妾私通，这种事可得遮着掩着，不能乱说。娄妃是大王的结发妻，还做姑娘的时候就资助大王。当年在怀朔镇，大王挨上司的打，体无完肤，她日夜守护在您床头，悉心照料；后来大王逃避葛荣，去并州投奔尔朱荣，路上把鞋子都踩破了，她夜里烧着马粪给您修补。昔日点点滴滴的恩情您都忘了吗？如今大王发达了，女儿嫁给皇上，儿子承继大业，领军娄昭又功勋卓著，岂能轻动世子之位？更何况，婢女的话怎能轻易相信？”（司马子如的这段话，我极喜欢，也极佩服，古往今来帮家务事帮到这份上，也算一绝了。他一上来将心比心，瞬间拉近与高欢的距离，然后小处动情，大处讲理，末了还给高欢一个台阶下。再铁石心肠的人，怕是都顶不住这轮软磨硬泡的“攻势”）
高欢听了，就派司马子如重新调查。司马子如逼迫两名作证的婢女翻供，又胁迫告发的婢女自杀，回来对高欢说：“果然是诬告！”高欢召见娄昭君和高澄，夫妻、父子抱头而泣，恩爱如初。司马子如得了厚赏，成为与高欢关系最为密切的辅臣之一。（从此事的另一个侧面，也可看出高欢对子女教育的失败。高欢身上浓厚的鲜卑文化，造就他诡谲隐忍的处事风格，利于乱而不利于治，北齐后来盛极而衰，其根源也在于此）
司马子如强于内政，打仗就外行了。天平二年（公元535年），他与大都督窦泰、太州刺史韩轨一同攻打西魏的潼关，宇文泰亲率大军屯于灞上，他便退兵攻打华州，又被华州刺史王罴击败。
高欢决定亲自来会宇文泰。天平三年，天公不作美，关中闹饥荒，死者遍野。这年年底，高欢督统东魏诸军讨伐西魏，高敖曹攻打上洛（今陕西商县），窦泰攻打潼关。高欢的晋阳军则在北面的蒲坂（今山西永济西）黄河渡口架起三座浮桥。东西魏的第一场大战拉开了战幕。
高欢的战略方针是，以晋阳军把西魏主力吸引到黄河边，窦泰乘虚攻入关中，端掉宇文泰的老巢。
宇文泰驻军渭水以北的广阳，一眼便看破了东魏军的阵势，他召集众将说：“敌人三面进攻，造浮桥以张声势，正是要我军上当。高欢自起兵以来，总以窦泰为前锋，兵士屡战屡胜，十分骄狂。我宇文泰偏偏不怕他，要把他摆平。窦泰一败，高欢不战自退！”
众将不解，都说：“高欢近在黄河对岸，窦泰远在潼关，舍近而求远，若有不慎，悔之晚矣！不如分兵抵御。”
宇文泰呵呵一笑，说：“高欢屡攻潼关，我都不出灞上；此次大举来攻，有意小看我军，以为我还是不敢轻易出击。乘机突袭，何愁不胜？敌人虽然造了浮桥，想要渡过黄河尚需时日，我以轻骑兵挺进，不消五天的工夫，必能取到窦泰的项上人头！”苏绰与中兵参军达奚武都赞同宇文泰的策略。
宇文泰回军长安，路上放出风声，说要放弃潼关，退保陇西。见过西魏文帝后，他悄悄引兵向东，两天后出现在潼关东南的小关，包抄窦泰的军队。窦泰大吃一惊，仓促依山摆阵应战。阵势还没成型，宇文泰的轻骑兵已杀到跟前，东魏军死伤殆尽，窦泰无法突围，窘极自杀。
春天气温转暖，黄河上冰层太薄，高欢大军虽有浮桥却不能快速渡过黄河，面对窦泰的失败有心无力，最终撤去浮桥，退兵返回晋阳。
南路高敖曹的汉军骑兵战绩不俗，高敖曹身先士卒，所向无敌。拿下上洛后，他打算从蓝田入关，直取长安，高欢派人传信，告知窦泰失利的消息，让他撤军。高敖曹这才很不情愿地整军而退，上洛随后被西魏夺回。（高敖曹打硬仗的能力让高欢倍加赏识，此后对西魏的战事他都担以重任，与高欢的主力军配合行动）
潼关之战，宇文泰初试锋芒，以极小的代价取得全胜。综观此战，高欢本想以优势兵力调虎离山，奇袭关中，反被宇文泰以声东击西之计回敬，东魏军一无所获，还折损了大将窦泰。两家斗智，宇文泰先拔头筹。稍嫌遗憾的是，两人没能在战场上面对面地展开较量，高欢输得并不服气，一心报仇雪耻。东魏军时刻蓄势待发，准备卷土重来，一场大战迫在眉睫。