東魏和西魏之間的大戰，其實並不是始於公元 535年，早在去年底，宇文泰就已經派信武將軍元慶和率軍進攻東魏。不過元慶和純粹是給高歡撓癢癢的，他手上那些蝦米兵，根本無法撼動高歡。對於這一點，高歡和宇文泰心照不宣。
從西魏大統元年（東魏天平二年，公元 535 年）初春到西魏大統三年（東魏天平四年，公元 537年）正月，高歡和宇文泰都忙於內政，調整權力結構。
在這兩年時間內，東魏和西魏爆發過兩場“上檔次”的戰爭。第一場是在大統元年的正月底，高歡派大行臺司馬子如、大都督竇泰、太州刺史韓軌率軍進攻潼關。
東魏軍進攻潼關，很可能是虛晃一槍，他們的真正目標是城防工事還不太完備的華州。東魏軍雖然很快就架梯子爬進了城，但接下來卻上演了一出鬧劇。鎮守華州的是西魏名將王羆，王羆聽說東魏兵攻城，光著膀子，操起一根大白棒子，衝出了衙門。
不知道高歡派來的都是些什麼軍隊，一個光棍般的王羆，居然就能將東魏兵嚇得連連後退。隨後西魏兵大舉殺到，揪住東魏兵，劈頭蓋臉就是一頓胖揍，司馬子如等人灰頭土臉逃回去了。
第二場戰役發生在西魏大統二年（東魏天平三年，公元 536 年）正月，高歡親自率一萬名精銳騎兵，以迅雷不及掩耳之勢，從晉陽出發，僅用了四天，就渡過黃河，殺到西魏的北方重鎮夏州城下。
因為高歡這場偷襲戰保密程度非常高，西魏方面毫無察覺，等夏州刺史斛拔俄彌突發現城下突然出現東魏騎兵時，已經來不及了。當天夜裡，高歡下達了攻城令，數不清的東魏鮮卑族士兵瘋狂爬城，活捉斛拔俄彌突。
高歡攻夏州，用意是打通河東與靈州曹泥，以及曹泥女婿劉豐生控制的涼州之間的聯絡渠道。如果靈州、涼州能和夏州、河東連成一片，那麼高歡就將進一步壓縮宇文泰的北線防禦體系。
高歡能想到的，宇文泰當然也會想到，留曹泥在自己腹背，總是個禍害。
隨後宇文泰親自帶隊強攻靈州，甚至不惜挖開黃河，水淹靈州城。宇文泰把耳光扇在曹泥臉上，疼的卻是高歡，他當然不能讓宇文泰得逞。
就在靈州城即將被淹沒的關鍵時刻，高歡火速電令阿至羅部落的三萬鐵騎渡河直襲西魏軍的背後，捅了宇文泰一刀，搶了西魏軍五十匹戰馬。宇文泰吃了一點小虧，對曹泥也失去了興趣，罷兵回長安。高歡隨後將曹泥、劉豐生（劉豐也稱劉豐生）等各部落五千戶遷到河東，至於灌滿水的靈州城，留給宇文泰養魚吧。
除了這兩場鬧劇般的戰役，兩魏之間還爆發過一場嘴仗。這是在西魏大統元年（東魏天平二年，公元 535 年）七月，宇文泰以皇帝元寶炬的名義，下詔聲討高歡二十條大罪，並嚇唬高歡說∶“朕將親總六軍，與丞相掃除兇醜。”高歡根本不吃宇文泰這一套，隨後也以東魏皇帝元善見的名義，下詔大罵宇文泰，其檄雲∶“分命諸將，領兵百萬，刻期西討。”
就雙方實力來看，西魏傾國之兵進攻東魏是不現實的，宇文泰更多的是在打宣傳戰。而東魏經濟發達，人口稠密，兵強馬壯，高歡有足夠的能力大規模進攻西魏。高歡說他要砸宇文泰的雞毛小店，並不是恐嚇之言，只不過高歡在等待合適的時機下手。
東魏天平三年（公元 536年）十二月十一日，高歡正式做出了討伐西魏的決定。
這次大舉伐西魏，高歡兵分三路∶
北路∶高歡率主力部隊從晉陽出發，沿黃河南下至蒲坂（今山西永濟西，黃河東岸）。
中路∶ 大都督竇泰率軍攻潼關。
南路∶司徒高敖曹、行臺尚書元暹攻上洛（今陝西商縣，西魏洛州治所）。高歡在蒲坂的黃河東岸建造了三座浮橋，從高歡的動作上來看，高歡極有可能從這裡搶先一步渡過黃河。至少宇文泰手下許多將軍都是這麼判斷的，但宇文泰的分析卻出乎所有將領之外。
高歡在蒲坂大張旗鼓地造浮橋，表面上看是要從這裡渡河，這反而引起了宇文泰的懷疑。直來直去從來就不是高歡用兵的風格，高歡無論是做人還是用兵都非常地狡詐。宇文泰非常自信地告訴諸將∶“你們都被賀六渾給騙了。”
眾人不解。
宇文泰耐心給弟兄們解釋∶“這次高歡三路來攻，其中最精銳的一路軍就是竇泰所部，如果高歡要渡河直接和我們開戰，他不可能把精兵交給竇泰，此其一。高歡在蒲坂做造橋渡河的假象，意在把我們的主力吸引到蒲坂，減輕竇泰進攻潼關的難度，此其二。”
宇文泰繼續講他的戰情判斷∶“其實此次竇泰率主力前來，正中吾下懷！公等豈不聞驕兵必敗之理？竇泰所部確實多精銳，但驕傲輕敵，善遊者多溺於水。我乘竇泰輕我之機，一鼓擊之，必梟泰首於馬前。若克竇泰，高歡詭計已為吾所破，必走。”
沒想到宇文泰噴了半天唾沫，大家卻不相信宇文泰這個判斷，大哥，你也太扯了。如果按大哥說的，我們去打竇泰，萬一高歡真的過河怎麼辦？到時可沒地方買後悔藥。不如我們兩頭並重，同時對付高歡和竇泰。
宇文泰大笑∶“賀六渾固然狡猾，但我早就給他下了套。你們還記得上次賀六渾偷襲潼關，我率軍只停留在灞上麼？那是我故意向賀六渾示弱，以驕其輕敵之心。今日賊再來，而我軍依然沒有遠征，就給賀六渾造成了我軍膽怯不敢戰的假象，必然放鬆警惕。諸公勿復言！五日之內，看我取竇泰首級！”
為了進一步迷惑高歡，宇文泰故意放出風聲，說他要率軍隊前往隴西，造成宇文泰不敢應戰的假象。同時，也就是西魏大統三年（東魏天平四年。公元 537年）正月十五，宇文泰躡手躡腳地帶著六千騎兵，溜出了長安城。
宇文泰下令部隊以極限的速度前進！
在夜色的掩護下，六千西魏騎兵僅用了一天多時間，就趕到了長安以東三百里的小關（潼關以西附近）。而得到虛假情報的竇泰正優哉遊哉地享受著冬日裡的暖陽，根本沒想到宇文泰會出現在他面前。
竇泰慌手慌腳地想依山列陣，和宇文泰決一死戰，但宇文泰不會給他這個機會。東魏軍“未及成列”，宇文泰就下達了攻擊令，西魏騎兵呼嘯著衝進了東魏軍的陣中…。。
竇泰帶來的一萬多人還沒怎麼打，就全都投降了宇文泰。竇泰本人見大勢已去，羞愧難當，一狠心，拔劍抹了脖子。宇文泰心情愉快地割下了竇泰的人頭，傳首長安，在自己的功勞簿上畫了一條粗粗的紅槓。
其實在竇泰遇上宇文泰的時候，高歡就已經得到前線軍報，但當時高歡根本就沒有打算造浮橋。即使想踩著黃河的冰層過去，因為冰層太薄，高歡無可奈何，只能眼睜睜看著竇泰戰死。
竇泰死後，高歡垂頭耷腦地撤軍回到晉陽。高敖曹隨後也撤軍回去。
高歡和宇文泰第一回合的較量結束了。
從結果上看，宇文泰吃掉了竇泰的一萬多精銳，高歡拿下了長安東南方向的重鎮上洛，但隨後高歡就放棄了洛州，宇文泰勉強佔了一點上風。但高歡實際上也沒有損失什麼，東魏名將如雲，精銳數十萬，折了一個竇泰和一萬多精銳，對高歡來說不算致命傷。
而上洛的失而復得，足以讓宇文泰驚出一身冷汗，同時也給宇文泰上了一堂深刻的地緣戰略課。
站在長安防禦體系的角度來看，欲阻止東面之敵進犯長安，必須守住長安東面的三座軍事重鎮，從北往南依次是∶華州、潼關、上洛。潼關是關中第一險道，華州是河西重鎮，一旦潼關和華州失守，東魏軍就可蜂擁進入關中腹地。
出於重點防禦的考慮，宇文泰將主要兵力都投放在華州和潼關，對上洛的重視性不足。其實若論對長安的戰略重要性，上洛絲毫不遜於華州和潼關。長安的東南方向有兩座軍事重鎮，近一點的是著名的藍田關，遠一點的就是上洛。一旦上洛為高歡控制，必然導致長安東南無險可守，東魏軍不必再從潼關，直接走上洛，只要東魏軍再拿下藍田，宇文泰就只能裸奔了。