虽然建德夫人曹氏也劝他要听从凌敬的建议，但建德不予理会，依然决定率大军与唐作正面交锋。
经过一番侦察后窦建德计划在唐军马料用尽，放马于河北之际袭击虎牢关。
这一消息却为李世民所知，五月李世民北渡河，南临广武，故意放马于河边以引诱对方，然后他自己却在当夜紧急赶回虎牢关。
第二天，中计的窦建德果然率全军来攻打虎牢关，李世民坚壁不出，窦建德布好战阵等了两个时辰，士卒饥疲之下都坐下来休息，因为天气炎热又争着去喝水漫无纪律。
就在这时李世民乘窦建德军散乱之机率众出战，直扑其阵。
而窦建德这时正在接见群臣，唐骑兵突然杀到，大臣们都向窦建德奔去，窦建德命骑兵应战，并命挡路的大臣们退开，就在这进退之间，唐军已经杀到了眼前，窦建德只得退到东边的山坡。
此时，两军恶战，李世民亲自率几员大将卷着唐军战旗突进到窦建德军阵的后面，然后打开旗帜。
正在激烈交战的窦建德军以为自己后方军阵已溃，于是全军大败，窦建德也在战乱中被擒。