Triều Liêu khinh thường triều Tống hèn kém, nhiều lần đem quân xâm phạm biên giới. Tới khi con Tống Thái Tông là Triệu Hằng lên nối ngôi, tức là Tống Chân Tông, thì có người tiến cử Khấu Chuẩn làm tể tướng, vì Khấu Chuẩn có lòng trung thành, làm việc lại quyết đoán. Tống Chân Tông hỏi: "Nghe nói Khấu Chuẩn là người hiếu thắng và cố chấp, thì làm thế nào?".

Vị đại thần đó nói: "Nay triều Liêu tiến phạm Trung nguyên, chính là cần một người như Khấu Chuẩn mới đảm đương được việc lớn".

Trong thời Tống Thái Tông, Khấu Chuẩn đã giữ 1 số chức vụ quan trọng, bao gồm chức phó tể tướng. Ông nổi tiếng về sự chính trực và mạnh dạn can ngăn. Một lần, ông vào triều trình bày công việc, có ý kiến khác với Tống Thái Tông. Tống Thái Tông không muốn nghe, nổi giận đứng dậy toan trở về cung. Khấu Chuẩn túm chặt tay áo, giữ Tống Thái Tông lại, mời Tống Thái Tông ngồi xuống nghe ông nói hết. Tống Thái Tông đành ngồi lại, sau đó khen rằng: "Ta có Khấu Chuẩn thật giống như Đường Thái Tông có Ngụy Trưng".

Nhưng cũng chính vì ông có nhân cách chính trực nên làm mất lòng 1 số quí tộc, sau bị gạt ra khỏi triều đình, đi làm tri châu ở 1 địa phương. Lần này, Tống Chân Tông thấy tình hình biên giới khẩn cấp nên mới chấp nhận sự tiến cử của các đại thần, triệu Khấu Chuẩn trở lại kinh thành. Năm 1004, Tiêu thái hậu và Liêu Thánh Tông của triều Liêu dẫn hơn 20 vạn quân tiến xuống phía nam, quân tiền phong tiến tới Thiền Châu (nay là Bộc Dương, Hà Nam). Văn thư cáo cấp tới tấp được chuyển về triều đình. Khấu Chuẩn khuyên Chân Tông đem binh thân chinh, phó tể tướng Vương Khâm Nhược và 1 đại thần khác là Trần Nghiêm Tẩu lại ngầm khuyên Chân Tông dời đô. Vương Khâm Nhược là người miền Giang Nam nên khuyên dời đô xuống Kim Lăng. Trần Nghiêm Tẩu là người Thục, lại khuyên Chân Tông chạy vào Thành Đô. Tống Chân Tông do dự, không biết nghe theo ý kiến nào, cuối cùng triệu kiến tể tướng mới là Khấu Chuẩn, hỏi ông: "Có người khuyên trẫm dời đô xuống Kim Lăng, có người lại khuyên trẫm dời vào Thành Đô. Khanh xem nên làm thế nào?".

Khấu Chuẩn liếc nhìn thấy Vương Khâm Nhược và Trần Nghiêm Tẩu đứng gần đó đã đoán được tình hình, liền nghiêm giọng nói: "Kẻ nào khuyên bệ hạ như thế xin đem chém đầu ngay!". 

Ông trình bày với Chân Tông rằng: chỉ cần nhà vua ngự giá thân chinh thì sĩ khí được cổ vũ, nhất định sẽ đánh lui được quân Liêu. Nếu bỏ Đông Kinh mà chạy xuống phía nam, thì lòng người dao động, kẻ địch sẽ thừa cơ tiến vào, đất nước sẽ khó lòng giữ được. Tống Chân Tông nghe Khấu Chuẩn nói, có phần vững dạ, quyết định ngự giá thân chinh và mang theo Khấu Chuẩn đi chỉ huy quân đội. Đại quân tiến tới Vĩ Thành (nay ở đông nam huyện Hoạt, Hà Nam), nghe tin quân Liêu rất mạnh đang tiến xuống, 1 số đại thần đi theo hoảng sợ. Nhân lúc Khấu Chuẩn vắng mặt, xin Chân Tông tạm lui quân để tránh sức mạnh của địch. Tống Chân Tông vốn rất nhu nhược, nghe những ý kiến đó lại dao động, gọi Khấu Chuẩn tới bàn. Tống Chân Tông nói: "Mọi người đều nói với trẫm rằng tốt nhất là chạy xuống phương nam. Khanh thấy thế nào?".

Khấu Chuẩn nghiêm túc trả lời: "Những kẻ chủ trương chạy xuống phương nam đều là lũ nhút nhát và ngu xuẩn. Hiện nay quân địch đã áp tới gần, lòng người rung động. Chúng ta chỉ có thể tiến lên một bước, chứ quyết không thể lùi một tấc. Nếu tiến lên, thì sĩ khí của quân dân Hà Bắc sẽ tăng lên gấp trăm lần; nếu chỉ lùi mấy bước thì toàn quân sẽ tan rã, quân địch sẽ đuổi tiết, bệ hạ có muốn về Kim Lăng cũng không được nữa".

Tống Chân Tông nghe thấy lời Khấu Chuẩn kiên quyết, có lý, không nói gì được nữa, nhưng trong lòng vẫn phấp phỏng lo sợ, không biết quyết định thế nào. Khấu Chuẩn ra khỏi hành cung, vừa may gặp ngay Điện tiền đô chỉ huy sứ Cao Quỳnh, liền hỏi dồn: "Ngài được quốc gia gây dựng cho, được giưc địa vị như ngày nay, nên báo đáp thế nào?".

Cao Quỳnh trả lời: "Tôi xin lấy cái chết để đền đáp!".

Khấu Chuẩn lại dẫn Cao Quỳnh cùng đi vào hành cung, trình bày 1 lần nữa ý kiến của mình với Tống Chân Tông, rồi nói: "Nếu bệ hạ vẫn cho lời của thần là không đúng thì xin hỏi Cao Quỳnh".

Cao Quỳnh đứng bên cạnh tiếp lời: "Tể tướng nói rất đúng. Các tướng sĩ cấm quân đều có gia đình ở Đông Kinh, không ai muốn chạy xuống phương nam. Chỉ cần bệ hạ thân chinh tiến lên Thiền Châu thì chúng thần sẽ quyết tâm tử chiến, nhất định sẽ đánh bại được quân Liêu!".

Tống Chân Tông chưa trả lời, Khấu Chuẩn liền giục tiếp 1 câu: "Thời cơ không thể để mất, xin bệ hạ lập tức động thân".

Dưới sự thúc giục của Khấu Chuẩn, Cao Quỳnh và các tướng sĩ, Tống Chân Tông quyết định lên đường tới Thiền Châu. Lúc đó, quân Liêu đã vây Thiền Châu từ 3 mặt. Quân Tống bố trí cung nỏ từ ở nơi hiểm yếu. Chủ tướng Liêu là Tiêu Đạt Lan cũng mấy kỵ binh đi trinh sát địa hình, lọt vào trận địa đã mai phục cung nỏ của quân Tống, bị cung nỏ bắn mãnh liệt. Tiêu Đạt Lan trúng tên, chết tại trận. Chủ tướng Liêu bị chết, Tiêu thái hậu vừa thương tiếc vừa sợ hãi. Bà lại nghe tin Tống Chân Tông ngự giá thân chinh, thấy triều Tống không thể bắt nạt, liền chủ trương giảng hòa. Thành Thiền Châu bao gồm cả 2 bờ nam bắc Hoàng Hà, Tống Chân Tông được các văn võ đại thần như Khấu Chuẩn, Cao Quỳnh hộ vệ, vượt qua Hoàng Hà vào thành bắc Thiền Châu. Lúc này, các đạo quân Tống đã tập trung lại tới Thiền Châu. Các tướng sĩ Tống thấy lá cờ thêu rồng vàng của Tống Chân Tông đều hoan hô như sấm dậy, sĩ khí lên rất cao.

Tiêu thái hậu phái sứ giả đến thành doanh quân Tống giảng hòa, yêu cầu triều Tống cắt nhượng đất đai cho Liêu. Tống Chân Tông thấy quân Liêu nói đến hòa đã trúng ý của mình. Ông bàn với Khấu Chuẩn: "Cắt nhượng đất đai thì không được, nhưng nếu người Liêu đòi hỏi tiền bạc vải vóc thì trẫm thấy có thể đáp ứng được".

Khấu Chuẩn vội phản đối giảng hòa, nói: "Chúng muốn hòa thì yêu cầu chúng phải trả lại ta mười sáu Yên Vân, chứ làm sao còn cho chúng tiền bạc vải vóc?".

Nhưng Tống Chân Tông 1 mực muốn hòa, không chấp nhận ý kiến Khấu Chuẩn, cử sứ giả là Tào Lợi Dụng đến doanh trại Liêu đàm phán về điều kiện nghị hòa. Trước khi Tào Lợi Dụng lên đường, Tống Chân Tông dặn dò: "Nếu họ đòi bồi thường, không thoái thác được thì có thể nhận mỗi năm một trăm vạn lạng bạc".

Khấu Chuẩn đứng cạnh nghe nói thế rất bực mình, nhưng không tiện tranh cãi với Tống Chân Tông. Khi Tào Lợi Dụng lên đường vừa ra khỏi cửa, Khấu Chuẩn nắm chặt tay Tào Lợi Dụng, nói: "Số tiền bồi thường không được quá ba mươi vạn. Nếu không khi anh trở về, ta sẽ xin cái đầu anh đấy!".

Tào Lợi Dụng biết Khấu Chuẩn không nói đùa, nên khi tới trại Liêu, ra sức cò kè mặc cả, đi tới thỏa thuận là hàng năm triều Tống phải nộp cho Liêu 30 vạn lạng bằng tiền và vải lụa. Khi Tào Lợi Dụng trở về, gặp lúc Tống Chân Tông đang ăn cơm, không tiếp kiến ngay được. Chân Tông nôn nóng muốn biết ngay kết quả đàm phán, liền sai 1 tiểu thái giám ra hỏi hàng năm phải nộp bao nhiêu. Tào Lợi Dụng thấy đây là việc cơ mật quốc gia, chỉ có thể tâu riêng với hoàng đế. Thái giám yêu cầu ông nói con số khái lược, Tào Lợi Dụng đành giơ 3 ngón tay lên làm ám hiệu. Thái giám vào tâu lại, Tống Chân Tông tưởng rằng Tào Lợi Dụng đã nhận bồi thường mỗi năm 300 lạng thì bất giác kêu lên: "Sao nhiều thế?". Sau khi suy nghĩ 1 lát, ông lại tự an ủi, nói: "Thôi, kết thúc được cuộc chiến tranh này, cũng đành chấp nhận thôi!".

Ăn cơm xong, Chân Tông gọi Tào Lợi Dụng vào hỏi tỉ mỉ, thấy Dụng nói mỗi năm chỉ phải nộp 30 vạn lạng, ông Tông mừng quá đỗi, luôn mồm khen ngợi Tào Lợi Dụng giỏi giang, khéo tranh biện. Sau đó, 2 bên Tống - Liêu chính thức kí hòa ước. Hàng năm, triều Tống phải nộp cho Liêu 20 vạn tấm lụa và 10 lạng bạc. Khỏi phải nói số tiền bồi thường lớn đó trở thành 1 gánh nặng lâu dài đè lên vai nhân dân Bắc Tống. Lịch sử gọi cuộc giảng hòa này là "Minh ước Thiền Uyên" (vì Thiền Châu còn có tên Thiền Uyên quận, nên hòa ước Thiền Châu mới được gọi như vậy). Do Khấu Chẩn kiên trì đòi chống Liêu nên đã cứu Tống thoát khỏi thất bại. Tống Chân Tông thấy Khấu Chuẩn có công, rất kính trọng ông. Nhưng kẻ chủ trương rút chạy là Vương Khâm Nhược lại gièm pha với Tống Chân Tông rằng Khấu Chuẩn buộc vua thân chinh tức là đem tính mạng hoàng đế đổ vào 1 canh bạc, thật là sỉ nhục cho quốc gia. Tống Chân Tông nhớ lại tình hình khi ở Thiền Châu, vẫn còn sợ toát mồ hôi, liền chuyển sang oán Khấu Chuẩn, cuối cùng đã cách chức tể tướng của con người đầy lòng yêu nước đó.