虎牢關，又稱汜水關，它作為洛陽東邊門戶和重要的關隘，因西周穆王在此牢虎而得名。南連嵩嶽，北瀕黃河，山嶺交錯，自成天險。大有“一夫當關，萬夫莫開“之勢，為曆代兵家必爭之地。
瓦崗水陸並進，在虎牢關前，一路上是勢如破竹。但到了虎牢關之後，就被天險所阻。
先是勸降，被守軍拒絕之後，就開始打造攻城器械。
不過不巧的是，才剛剛打造完成，還沒來得及攻城，韋孝矩率軍趕到虎牢了。
在看到城外的攻城器械之後，立即募集了五百勇士，趁夜突襲，燒毀了大部分攻城器械。
翟讓大怒，又命令工匠加緊打造攻城器械，晝夜不停。
三日後，在器械完成之後立即發動對關城的強攻。
此時，濮陽的形勢非常微妙。
就在虎牢關前的大地上，筆直的衝向了瓦崗軍大陣。
翟讓雖然逃脫了，但瓦崗軍已經完全被燕軍鐵騎衝亂了，敗兵四處逃竄，許多士卒充滿往河邊渡口停船處避讓，因此也造成了擁擠和踩踏。
這一仗，在虎牢戰場上的八萬多瓦崗軍被衝的七零八落，四散奔逃。
“悔不聽楊先生之言”這句話也成了翟讓的遺言。
楊侃與楊邃相視一樣，楊邃道：“好，既然如此，就如慕容將軍所言，我等就各率部眾就此分彆不過青州之地，就留與我等？如何？”
翟思訓當即道：“當初能取青州，也都是楊長史所謀劃，如今將青州與楊氏我自無他言”
翟讓原本為了鼓舞士氣，在虎牢關下數裡之地督戰，而尉遲恭看見他的旗號直衝而來，瓦崗軍驍將單雄信見尉遲恭驍勇眾人皆不能當，自負勇力過人，就直接縱馬迎了上去。
楊氏統軍楊侃旗幟鮮明的擺明立場。