Năm 1069, ông cầm quân đi đánh Champa. Lần này vua Lý Thánh Tông thân chinh, Lý Thường Kiệt được phong đại tướng, chỉ huy đội tiên phong tiến vào đánh phá kinh thành. Quốc vương Champa bị bắt đưa về Thăng Long, đã xin dâng đất để chuộc tội, gồm ba châu Bố Chánh, Địa Lý, Ma Linh (nay là địa phận Quảng Bình và bắc Quảng Trị).
Sau khi toàn thắng, giữ yên được biên giới phía Nam, Lý Thường Kiệt được ban các chức tước: Phụ quốc tháo phó và Phụ quốc Thượng tướng quân, Thượng trụ quốc, Khai quốc công. Ít lâu sau ông lại được thăng chức Thái úy, Đồng trung thư môn hạ bình chương sự (là chức quan thứ hai trong triều), đứng sau chức Thái sư lúc ấy là do Lý Đạo Thành đảm nhiệm.
Năm 1072, Lý Thánh Tông từ trần. Lý Nhân Tông lên nối ngôi khi mới có 7 tuổi. Trong khi ấy, chính quyền phương Bắc vẫn luôn nhòm ngó. Chúng xem đây là một cơ hội tốt để tiến hành ráo riết việc chuẩn bị xâm lược nước ta. Tại ba châu Ung, Khâm, Liêm (thuộc Quảng Đông , Quảng Tây ngày nay), chúng xây dựng những căn cứ quân sự và hậu to lớn để làm nơi xuất phát trực tiếp cho các đạo quân xâm lược.
Lúc này, sau khi Lý Nhân Tông lên ngôi, Lý Thường Kiệt được giữ chức Đôn quốc thái úy, Đại tướng quân, Đại tư đồ, tược hiệu Thượng phụ công. Với cương vị như Tể tướng, ông nắm toàn quyền cả văn lẫn võ. Điều có cũng có nghĩa là phải gánh vác nặng nề và chịu trách nhiệm to lớn đối với giang sơn xã tắc. Ông nhận lấy sứ mệnh thiêng liêng, trực tiếp tổ chức và lãnh đạo cuộc kháng chiến chống quân Tống xâm lược.
Đứng trước âm mưu và hành động rõ ràng công khai của địch, ông cho rằng: "Ngồi yên đợi giặc không bằng đem quân ra trước, chặn thế mạnh của giặc". Được triều đình tán thành, ông huy động 10 vạn quân tiến hành một cuộc tập kích đánh thẳng vào các căn cứ chuẩn bị xâm lược của kẻ thù ngay trên đất Tống.
Với danh nghĩa chính đáng là chỉ đánh Tống để giữ nước là đưa quân tới là để cứu dân, Lý Thường Kiệt đã viết bài hịch Phạt Tống lộ bố văn (bài văn công bố đánh giặc Tống) và cho yết bảng ở khắp nơi mà quân đội ta đi qua.