Trong khi Lý Uyên đánh Trường An thì quân khởi nghĩa ở khắp nơi trong nước cũng phát triển và lớn mạnh. Ngoài quân Ngõa Cương còn các lực lượng chủ yếu khác như quân khởi nghĩa ở Hà Bắc do Đậu Kiến Đức lãnh đạo, quân khởi nghĩa ở Giang Hoài do Đỗ Phục Uy cầm đầu. Các cánh quân khởi nghĩa đều dồn dập tiến đánh quân triều đình. Hôn quân tàn bạo, Tùy Dạng Đế biết ngày tàn của mình sắp đến, liền bỏ chạy xuống Giang Đô, ngày ngày cùng Tiêu hoàng hậu và các phi tần uống rượu vui chơi, chìm đắm trong say sưa điên đảo. Ông không muốn nghe biết mọi tin tức thất bại của quân triều đình, nhưng trong lòng đã cực kì hoang mang, nói với Tiêu hoàng hậu: "Nghe nói bên ngoài có nhiều kẻ muốn thanh toán ta. Nhưng mặc kệ, ta cứ việc uống rượu cho sướng!".

Có lần, ông ta cầm gương lên soi, tự ngắm nghía hồi lâu, rồi nói: "Cái đầu đẹp quá, không biết kẻ nào sẽ tới chặt đây".

Cái ngày mà Tùy Dạng Đế lo lắng cuối cùng đã tới. Binh lính trong đội quân cấm vệ của Tùy Dạng Đế, đa số là người Quan Trung (tức phía tây Hàm Cốc quan, gần Trường An, nay gồm tỉnh Thiểm Tây, Cam Túc). Họ thấy trước mắt nếu cứ đi theo Tùy Dạng Đế thì sẽ rất nguy hiểm. Tướng Vũ Văn Hóa Cập nắm được tâm lý binh lính đang muốn đào ngũ trốn về quê hương, liền phát động binh biến. Vũ Văn Hóa Cập dẫn binh sĩ tiến công hoàng cung, cử người giam lỏng và giám sát chặt Tùy Dạng Đế. Tùy Dạng Đế hỏi người giám thị: "Ta phạm tội gì?".

Viên giám thị nói: "Ngươi phát động chiến tranh, xa xỉ cùng cực, tin dùng kẻ gian tà, cự tuyệt lời ngay thẳng, làm cho đàn ông phơi xác trên chiến trường, đàn bà trẻ nhỏ bỏ mạng nơi đường xá, trăm họ lưu tán khắp nơi. Ngươi còn nói là vô tội sao?".

Tùy Dạng Đế nói: "Đúng là ta có lỗi với trăm họ, nhưng các ngươi đều cùng ta hưởng phú quí, ta đâu có lỗi với các ngươi. Việc làm hôm nay do ai đứng đầu?".

Viên giám thị trả lời: "Nhân dân cả nước đều căm giận hôn quân. Đâu chỉ riêng người đứng đầu!".

Tùy Dạng Đế không còn nói gì được nữa, liền cởi khăn quấn trên đầu giao cho viên giám thị. Các vệ sĩ dùng dải khăn đó thắt cổ giết chết kẻ thống trị tàn bạo. Triều Tùy chỉ thống trị Trung Quốc được 38 năm, tới đây là kết thúc. Sau khi Tùy Dạng Đế chết, Đông Đô Lạc Dương vẫn nằm trong tay viên lưu thú Đông Đô và Dương Đồng (cháu của Tùy Dạng Đế) và đại thần Vương Thế Sung. Vương Thế Sung lập Dương Đồng lên làm hoàng đế, tiếp tục giương lá cờ của triều Tùy để chống lại quân khởi nghĩa. Vùng xung quanh Đông Đô vốn thuộc phạm vi hoạt động của quân Ngõa Cương. Lý Mật đã nhiều lần đánh bại quân Tùy, nhưng vì kiêu ngạo tự mãn, lại nghi ngờ các tướng lĩnh nghĩa quân, nên sau trận đánh thắng lợi với lực lượng của Vũ Văn Hóa Cập từ Giang Đô kéo lên, lực lượng quân Ngõa Cương của Lý Mật dần suy yếu. Vương Thế Sung nhằm đúng nhược điểm của Lý Mật, liền mở 1 trận tập kích, đánh tan đại quân Lý Mật. Lý Mật dẫn tàn binh bại tướng chạy lên Trường An, theo triều Đường. Vương Thế Sung đuổi được Lý Mật, tự cho là có lực lượng mạnh, liền phế Dương Đồng, tự xưng là hoàng đế, lấy quốc hiệu là Trịnh.

Lúc đó, quân Đường đã dẹp được mấy thế lực cát cứ của địa chủ cường hào ở tây bắc, ổn định được hậu phương. Năm 620, Đường Cao Tổ cử Lý Thế Dân thống lĩnh đại quân đi đánh Đông Đô. Quân Lý Thế Dân ra khỏi cửa Hàm Cốc, rất nhiều châu huyện thuộc Hà Nam liên tiếp đầu hàng, nên đã nhanh chóng hình thành thế bao vây với Đông Đô. Lý Thế Dân không những giỏi đánh trận mà còn khéo dùng người. Ông thu nạp được 1 số hàng tướng từ hàng ngũ quân Ngõa Cương và các thế lực cát cứ khác. Trong số này, có những người đã trở thành trợ thủ đắc lực của ông, như Tần Thúc Bảo, Trình Giảo Kim, Uất Trì Cung tức Uất Trì Kính Đức. Một lần, Lý Thế Dân đang dẫn 500 kỵ binh tuần tra trên trận địa thì bị Vương Thế Sung phát hiện và đem 1 vạn kỵ binh ra vây chặt. Đại tướng của Vương Thế Sung là Đan Hùng Tín xông tới sát Lý Thế Dân, phóng trường mâu đâm sang. Ngay lúc đó, Uất Trì Kính Đức phi ngựa tới, hét 1 tiếng lớn, đâm Đan Hùng Tín ngã nhào xuống ngựa, rồi bảo vệ Lý Thế Dân vượt khỏi vòng vây. Sau đó, 2 người lại dẫn kỵ binh quay lại xông xáo chém giết hàng ngũ quân Trịnh, khiến quân Trịnh hoảng sợ không chống đỡ được. Ngay sau đó, quân Đường kéo ra nườm nượp, đánh cho quân Trịnh thảm bại.

Từ mùa xuân năm đó đến mùa xuân năm sau, quân Đường ngày càng vây chặt Đông Đô, liên tiếp đánh suốt ngày đêm. Vương Thế Sung tổ chức phòng thủ nghiêm mật, không ngừng dùng máy bắn đá và nỏ bắn lại quân Đường. Chiến đấu kéo dài, tướng sĩ Đường cũng cảm thấy mệt mỏi, có người đề nghị Lý Thế Dân cho ngừng tiến công và lui quân về Trường An nghỉ ngơi, chỉnh đốn lại rồi sẽ tiến đánh sau. Lý Thế Dân nói: "Hiện nay các châu xung quanh đều đầu hàng, Lạc Dương trở nên một tòa thành cô lập, sắp sửa bị hạ, sao có thể nửa chừng bỏ dỡ được?". Rồi hạ lệnh cho toàn thể tướng sĩ: "Chưa hạ được Đông Đô, quyết không lui quân".

Vương Thế Sung không còn cách nào khác, phải cử người trốn khỏi vòng vây, lên Hà Bắc xin Đậu Kiến Đức mang quân về cứu viện. Quân khởi nghĩa do Đậu Kiến Đức lãnh đạo là 1 lực lượng rất lớn mạnh ở vùng Hà Bắc. Đậu Kiến Đức cũng tự xưng là hoàng đế, quốc hiệu là Hạ, đã đánh chiếm rất nhiều đất đai của Đường. Nhận được thư xin cứu viện của Vương Thế Sung, Đậu Kiến Đức 1 mặt đem 30 vạn người ngựa đi theo 2 đường thủy bộ về cứu Đông Đô, 1 mặt gửi thư cho Lý Thế Dân, yêu cầu quân Đường rút về Quan Trung. Các tướng Đường hoảng sợ trước binh lực lớn mạnh của quân Hạ, chủ trương tạm thời rời khỏi Đông Đô. Nhưng lại có ý kiến khác, cho rằng quân Vương Thế Sung còn rất mạnh, chỉ có khó khăn về lương thực. Nếu để quân Đậu Kiến Đức liên kết được với quân Vương Thế Sung, dùng lương thực của Hà Bắc tiếp tế cho Đông Đô, thì không còn hi vọng gì thắng được chúng nữa. Vì vậy, nhất định phải chặng đường tiến quân xuống phía nam của Đậu Kiến Đức.

Lý Thế Dân nghe theo, quyết định để Lý Nguyên Cát tiếp tục bao vây Đông Đô, còn tự mình dẫn 3000 tinh binh tiến lên phía bắc giữ chặt Vũ Lao quan (tức Hổ Lao quan, nay ở thị trấn Dĩ Thủy, Huỳnh Dương, Hà Nam). Đại quân của Đậu Kiến Đức đến Vũ Lao quan bị quân Đường chặn đứng. Quân Hạ mấy lần tổ chức tiến công, đều không thành công. Trong khi đó, Lý Thế Dân lại phái kỵ binh đi vòng đường nhỏ, cắt đứt đường tiếp lương của quân Đậu Kiên Đức. Đậu Kiến Đức cậy thế quân đông, cho rằng nhất định sẽ hạ được Vũ Lao quan, nên đã cự tuyệt lời khuyên ngăn của vợ và cấp dưới, huy động toàn quân dàn trận, khua chiêng giống trống ào ạt tiến công. Lý Thế Dân trèo lên điểm cao, quan sát trận thế của quân Hạ rồi nói: "Đậu Kiến Đức chưa từng giao phong với đối thủ mạnh nào, nên bố trí trong trận thế, đã tỏ rõ tính kiêu căng khinh địch. Chúng ta hãy cứ án binh bất động, chờ cho quân của hắn mỏi mệt, sẽ nhất tề xuất kích thì nhất định sẽ giành thắng lợi".

Quân Hạ dàn trận, chuẩn bị giao phong, nhưng suốt sáng sớm tới giữa trưa, vẫn không thấy quân Đường ra giao chiến. Quân vừa mệt vừa đói, có người ngồi bệt xuống đất, người ra sông múc nước uống. Lý Thế Dân thấy thời cơ đã đến, liền hạ lệnh cho tướng sĩ vượt sông Dĩ Thủy, xông thẳng vào đại doanh của Đậu Kiến Đức. Đậu Kiến Đức đang hội họp với các tướng soái trong đại doanh, thấy quân Đường đột nhiên xông tới, vội vàng chỉ huy kỵ binh ứng chiến. Hai bên xung sát kịch liệt, trận địa mù mịt, tên bay tua tủa như mưa. Lý Thế Dân nhân lúc quân Hạ không phòng bị, dẫn 1 toán quân thọc sâu vào sau trận địa quân Hạ, giương cao lá cờ Đường. Quân Hạ từ phía trước nhìn lại, thấy thế, tưởng rằng quân Đường đã chiếm được đại doanh, thì không còn lòng dạ nào tiếp tục chiến đấu nữa, chen lấn nhau chạy trốn thục mạng. Đậu Kiến Đức bị thương trong cuộc hỗn chiến và bị quân Đường bắt làm tù binh. Sau khi đánh bại Đậu Kiến Đức, Lý Thế Dân đem quân về tiếp tục bao vây Đông Đô. Vương Thế Sung toan phá vây, nhưng các tướng nói: "Nay Hạ vương đã thất bại, dù chúng ta có phá được vây, cũng không có tác dụng gì". Vương Thế Sung thấy đại cục đã hỏng, đánh đầu hàng quân Đường.

Đậu Kiến Đức bị giải về Trường An, ít lâu sau liền bị giết. Bộ tướng của Đậu Kiến Đức là Lưu Hắc Thát tiếp tục lãnh đạo quân Hạ ở Hà Bắc, chống lại quân Đường. Quân Đường phải mất 3 năm mới dẹp yên được các lực lượng chống đối ở Hà Bắc. Năm 623, chiến tranh thống nhất quốc gia của Đường kết thúc về cơ bản. Nhưng mâu thuẫn trong nội bộ hoàng thất nhà Đường lại trở nên gay gắt.