Do Phạm Trọng Yên giữ nghiêm kỷ luật quân đội và chú ý sự giảm nhẹ đóng góp cho nhân dân vùng biên giới, nên lực lượng phòng thủ của Bắc Tống được tăng cường. Tây Hạ gây chiến với Bắc Tống trong mấy năm, không thu được lợi gì. Nên đến năm 1043, Nguyên Hạo phải xưng thần và cầu hòa Triều Tống đồng ý hàng năm cung cấp cho Tây Hạ 1 số tiền bạc, vải vóc và trà uống. Từ đó biên giới Tống mới tạm thời được yên ổn. Phạm Trọng Yên không những là nhà quân sự mà còn là nhà chính trị gia và văn học gia nổi tiếng đời Tống. Ông là người huyện Ngô thuộc Tô Châu, mồ côi cha từ nhỏ. Vì nhà nghèo, người mẹ bất đắc dĩ phải tái giá với 1 người họ Chu. Phạm Trọng Yên trưởng thành trong 1 hoàn cảnh vô cùng gian khổ, thường đọc sách trong 1 ngôi miếu cổ, ngày không có đủ 3 bữa ăn, thường phải ăn cháo. Nhưng ông quyết tâm khắc khổ học tập, thường đọc sách tới khuya, nhiều khi mệt mỏi tới mức không mở được mắt, phải vã nước lạnh vào mặt cho tỉnh để tiếp tục học. Ròng rã nhiều năm gian khổ như vậy, cuối cùng ông trở thành 1 người rất có học vấn.

Ban đầu, Phạm Trọng Yên làm gián quan trong triều, vì thấy tể tướng Lã Di Giản lạm dụng chức quyền, đưa người thân quen vào làm quan, bèn mạnh dạn tố cáo với Nhân Tông. Lã Di Giản phản công lại, nói Phạm Trọng Yên kết giao bè đảng để ly gián quan hệ vua tôi. Tống Nhân Tông tin theo lời Lã Di Giản, liền biếm trích Phạm Trọng Yên xuống phương nam. Mãi tới khi chiến tranh với Tây Hạ, Phạm Trọng Yên lập công lớn, Tống Nhân Tông mới thấy ông đích thực là 1 nhân tài. Lúc bấy giờ, triều Tống vì nội chính thối nát, lại thêm có chiến tranh với Liêu và Tây Hạ, tiêu phí rất nhiều tiền của, tài chính gặp khó khăn lớn. Tống Nhân Tông bèn điều Phạm Trọng Yên từ Thiểm Tây về kinh thành, phong ông làm phó tể tướng. Phạm Trọng Yên vừa về tới nơi, Nhân Tông tiếp kiến ngay, yêu cầu thảo ra phương án trị nước. Phạm Trọng Yên thấy triều đình có quá nhiều mặt thối nát, không thể cải cách ngay 1 lúc mà phải đi từ từ từng bước. Nhưng vì Nhân Tông liên tục thúc giục, ông liền đề ra 10 hạng mục cải cách, gồm những nội dung chủ yếu như sau:

1 - Định kì sát hạch quan lại. Căn cứ vào thành tích cai trị mà thăng cấp, giáng cấp.

2 - Hạn chế nghiêm ngặt việc con cai các đại thần dựa vào thế cha để ra làm quan.

3 - Cải cách chế độ khoa cử.

4 - Thận trọng trong việc chọn lựa và đề bạt quan đứng đầu các địa phương.

Còn những vẫn đề khác như khuyến khích nông trang, giảm nhẹ lao dịch, tăng cường quân bị giữ nghiêm pháp luật...

Tốn Nhân Tông đang có lòng hăng hái cải cách, sau khi xem xong phương án của Phạm Trọng Yên, liền lập tức phê chuẩn và cho thi hành khắp trong nước. Lịch sử gọi phong trào cải cách này là "Khánh Lịch tân chính" (Khánh Lịch là niên hiệu của Tống Nhân Tông từ 1041 đến 1049). Để thúc đẩy tân chính (chính sách mới), Phạm Trọng Yên liền cùng Hàn Kỳ, Phú Bật thẩm tra 1 số quan chức để cử xuống các bộ (đơn vị hành chính thới Tống) làm chức giám ti (quan giám sát). Một hôm, Phạm Trọng Yên ngồi trong dinh duyệt danh sách các giám ti, phát hiện thấy 1 người xưa nay là kẻ tham lam, làm trái pháp luật, liền cầm bút xóa tên người đó đi, chuẩn bị lấy người khác thay vào. Phú Bật đứng cạnh, thấy thế không nỡ, liền nói với Phạm Trọng Yên: "Phạm Công, một nét bút của ngài, làm cho cả nhà người ta phải khóc đây!".

Phạm Trọng Yên nghiêm túc trả lời: "Nếu không để một nhà phải khóc, thì sẽ làm cho dân cả một bộ phải khóc".

Phú Bật nghe trả lời, vụt hiểu ra, càng khâm phục kiến thức và tính cương trực của Phạm Trọng Yên. Tân chính do Phạm Trọng Yên vừa đem ra thi hành, đã như chọc vào tổ ong. Tất cả hoàng thân quốc thích, đại thần quyền quý, tham quan ô lại đều la lối om sòm, gieo rắc tin đồn chống lại tân chính. Những đại thần xưa nay vốn không ưa Phạm Trọng Yên, ngày ngày nói xấu Phạm Trọng Yên với Tống Nhân Tông, nói ông và 1 số người kết bè đảng, lạm dụng chức quyền. Tống Nhân Tông thấy nhiều người phản đối quá, cũng sinh dao động. Phạm Trọng Yên thấy mình không thể ở lại kinh thành được, liền tự động xin đổi về biên giới Thiểm Tây. Tống Nhân Tông đành phải điều ông đi. Phạm Trọng Yên vừa đi khỏi, Tống Nhân Tông liền hạ lệnh phế bỏ tân chính. Vì đề xướng cải cách chính trị, Phạm Trọng Yên bị rất nhiều kẻ đả kích, nhưng ông không vì thế mà nản lòng. Một năm sau, 1 người bạn cũ của ông là Đằng Tông Lượng, làm quan ở Nhạc Châu (trị sở nay ở Nhạc Dương, Hồ Nam) đứng ra tu tạo lại Nhạc Dương Lâu, 1 danh thắng ở đó, mời Phạm Trọng Yên viết cho 1 bài văn kỉ niệm. Phạm Trọng Yên vung bút viết ngay bài "Nhạc Dương Lâu ký". Trong bài văn nổi tiếng đó, Phạm Trọng Yên đề cập đến 1 người có hoài bão chính trị xa rộng, cần phải có tư tưởng " Lo trước cái lo của thiên hạ, vui sau cái vui của thiên hạ".

Hai câu danh ngôn đó được người đời sau truyền tụng. Và Nhạc Dương Lâu cũng nhờ bài văn nổi tiếng đó của Phạm Trọng Yên mà nổi tiếng thêm.