Khi Lý Thường Kiệt và Tông Đản vây thành Ung Châu, vua Tống nghe theo lời tâu của Vương An Thạch muốn dùng Ung Châu cầm chân quân chủ lực Đại Việt rồi cho một đạo quân khác do Triệu Tiết chỉ huy theo đường khác mà đánh úp Đại Việt.
Tiết tiến cử tướng Quách Quỳ, là một danh tướng vùng biên cương Liêu – Hạ tăng cường vào bộ chỉ huy. Khi về kinh nghị sự, vua Tống Thần Tông cho Quách Quỳ làm chánh tướng, chức danh đầy đủ là Tuyên huy nam viện sử, An Nam đạo hành doanh mã bộ quân đô tổng quản chiêu thảo sứ.
Triệu Tiết được phong làm Phó sứ. Yên Đạt được phong Mã bộ phó sứ đô tổng quản. Vua Tống theo lời tâu của Quách Quỳ, điều quân ở vùng Hà Đông (Thiểm Tây) giáp nước Hạ làm quân nòng cốt cho cuộc xâm lược.
Trước đó, vua Tống định cho Lý Hiến làm phó tướng, đồng thời giữ nhiệm vụ giám quân nhưng bị quần thần phản đối do Lý Hiến là hoạn quan, Lý Hiến lại tranh cãi xích mích với Triệu Tiết nên bị bãi chức. Khi dặn dò công việc với Quách Quỳ, vua Tống đã tỏ rõ ý định thôn tính: “Sau khi bình Giao Châu, sẽ đặt châu huyện như nội địa”.
Rốt cuộc thành Ung Châu bị hạ, Lý Thường Kiệt chủ động rút quân an toàn về nước, kế đánh úp Đại Việt thành ra phá sản. Nhưng Tống là một nước lớn mạnh, đông đúc gấp hàng chục lần Đại Việt, tự nhận là thiên triều thì dễ gì bỏ qua được.
Được tin Ung Châu thất thủ, quyết tâm xâm lược của vua Tống vẫn không đổi. Vua Tống Thần Tông và Vương An Thạch bàn nhau tiếc nuối rằng xưa kia đã không đánh Đại Việt sớm mà để bị đánh trước. Vương An Thạch than với vua Tống:
“Đáng lẽ, ta phải đánh khi Càn Đức mới lập. Bấy giờ, các khê động đều muốn nội phụ. Nếu lúc ấy ta muốn đánh Giao Chỉ, thì chỉ cần mộ 2 vạn tinh binh, chọn 5 - 6 tướng vừa, là có thể làm xong chuyện.
Tôi trộm nghĩ rằng nếu bấy giờ ta đoán được sự ngày nay chúng không tuân lệnh, thì ta đã có tiếc gì mà không cử binh. Thế mới biết rằng việc bốn cõi biên thuỳ, nếu không lo sự lớn hơn sự bé, làm việc khó trước việc dễ, thì đến nhọc quân tốn của.”
Lời tâu trên thể hiện sự mù mờ về tin tức ở Đại Việt của Vương An Thạch và vua tôi nước Tống. Họ thứ nhất là đã đánh giá quá thấp sức mạnh Đại Việt, thứ hai là không hiểu rằng nước Tống bị Đại Việt tấn công cũng chính vì âm mưu xâm lược Đại Việt của Tống.
Vua tôi Tống vẫn không hiểu được bản chất của cuộc tấn công mang tính đánh phủ đầu mà Lý Thường Kiệt đã vạch ra. Họ vẫn tưởng tượng về một cuộc cướp phá, diễu võ giương oai, hay thừa cơ chiếm cứ lãnh thổ. Tuy mù mờ như thế, nhưng khi thấy rõ sức mạnh kinh hồn của quân Đại Việt trong cuộc tấn công do Lý Thường Kiệt chỉ huy thì Tống triều tỏ ra rất thận trọng.
Chính vì vậy mà bất chấp việc cả một vùng tiền đồn rộng lớn miền nam nước Tống bị tàn phá nghiêm trọng, Tống vẫn cố gắng ở mức cao nhất để huy động một đạo quân thiện chiến đông đảo, với trang bị mạnh và hậu cần quy mô lớn.
4,5 vạn quân đã từng theo Quách Quỳ chinh chiến nhiều năm ở biên thùy Tống – Hạ được điều động. Số quân này là những quân lính tinh nhuệ bậc nhất trong toàn quân đội nước Tống bấy giờ, được biên chế làm 9 Tướng (Tướng ở đây là một đơn vị quân đội của nước Tống thời bấy giờ, mỗi Tướng gồm 5.000 quân).
Trong số này có 1 vạn kỵ binh, là tinh túy của Tống cũng như nhiều quốc gia trung đại khác. Theo cách tính toán phổ biến đương thời thì khi chiến đấu theo đội ngũ, một đơn vị kỵ binh có thể đánh trực diện với số bộ binh đông hơn 5 – 7 lần.
Các vùng khác của nước Tống cung cấp chừng 6,5 vạn bộ binh, phần lớn là từ các lộ nằm trên dọc đường tiến quân từ Biện Kinh tới biên giới Tống – Việt. Số quân này gộp với 4,5 vạn quân nòng cốt lấy từ biên thùy Tống – Hạ tạo thành một đội quân đông 10 vạn lính chiến đấu.
Ngoài lính chiến đấu, còn có khoảng 20 vạn dân phu được điều động. Những dân phu khỏe mạnh ngoài nhiệm vụ phục dịch, còn là lực lượng dự phòng dùng cho chiến đấu. Để phối hợp, nước Tống còn huy động một đạo thủy quân với hàng trăm thuyền chiến chủ yếu là thuyền buôn trưng thu trong dân hoán cải lại thành chiến thuyền, cùng với một số chiến thuyền đóng một cách vội vàng.
Binh lính của đạo thủy quân này được tuyển mộ từ những dân thuyền chài ven biển. Đạo thủy quân này có tổng quân số chừng 5 vạn quân, do tướng Dương Tùng Tiên làm tổng chỉ huy. Nhiệm vụ được đặt ra cho đạo thủy quân là tiến vào nội địa nước Đại Việt đúng hẹn để phối hợp với bộ binh Tống vượt sông chiếm kinh thành Thăng Long.
Vua tôi Tống bàn nhau: “Trên đường bộ, tiến binh đến kinh thành giặc còn bị cách sông lớn. Người Giao lại giỏi thủy chiến. Sợ rằng thuyền giặc giữ các chỗ hiểm, đại binh ta khó lòng qua được. Rồi đêm đến, giặc xông tới đánh thì việc ta hỏng mất…
Vậy xin hạ lệnh cho các ty kinh lược, chuyển vận Quảng Đông phải tuyển thủy binh, chọn những người dũng cảm rồi dạy thủy chiến cho chúng.
Sau này sẽ từ Quảng Châu theo bờ bể, chỉ tiến tới Liêm, Khâm, rồi đậu thuyền ở đó đợi. Lúc nào đại binh tiến sẽ hẹn ngày sai thủy quân cùng vào Giao Châu đánh giặc. Thủy quân sẽ tách ra một phần thuyền ghé vào bờ bắc sông để chở đại quân sang”.
Nước Tống thời kỳ này là một nước chú trọng về quân kỵ bộ để phục vụ cho các cuộc chiến tranh liên miên ở biên cương phía tây và phía bắc chống lại các đạo quân du mục và bán du mục Liêu, Hạ nên quân kỵ, quân bộ rất mạnh. Trái lại, thủy quân rất kém cỏi.
Thậm chí, Tống không có một lực lượng thủy quân thường trực đúng nghĩa mà phải huy động trong dân khi có sự cần. Vì vậy mà mặc dù đã rất cố gắng gây dựng một cánh quân thủy để phục vụ cuộc xâm lược Đại Việt, thủy quân Tống vẫn kém xa thủy quân Đại Việt về chất lượng. Việc chuẩn bị chiến thuyền chậm trễ so với tiến độ hành quân.
Khi đạo bộ binh của Quách Quỳ đã tiến đến Quế Châu (thủ phủ lộ Quảng Tây) vào giữa năm 1076, thủy quân của Dương Tùng Tiên vẫn chưa tập hợp được chiếc thuyền nào. Phải đến cuối năm 1076 thì Dương Tùng Tiên mới tập hợp được thành thuyền bè và quân lính thành đội ngũ.
Song song với việc xây dựng thủy quân, vua Tống còn sai sứ đem của cải và chiếu thư theo thuyền buôn vượt biển cấp tốc sang Chiêm Thành, Chân Lạp (hay còn gọi là đế chế Khmer) để xúi giục hai nước này liên thủ với Tống cùng tấn công Đại Việt. Chiếu thư như sau :
“Chiêm Thành, Chân Lạp từ lâu nay bị Giao Chỉ cướp. Nay vương sư sang đánh Giao Chỉ để phạt tội. Các nước ấy nên thừa cơ hội, hiệp lực mà trừ nó. Ngày nào đánh dẹp xong, Trẫm sẽ ban thưởng cho. Trẫm lại nghe nói rằng nhiều dân nước ấy đã bị Giao Chỉ bắt về. Trong số ấy có cựu vương Chiêm Thành, khó lòng trở về nước. Nên triệu y sang chầu. Trẫm sẽ gia ân cho”.
Cựu vương mà trong thư nhắc tới, chính là vua Rudravarman III (Chế Củ) thuở trước, vì bại trận và cắt đất cho Đại Việt mà bị quý tộc nước Chiêm Thành lật đổ, chạy sang Đại Việt ẩn náu. Vốn có dã tâm từ trước, hai nước lại lập tức đồng ý liên minh.
Như vậy, Đại Việt không chỉ phải đánh nhau với nước Tống mà phải chiến đấu với cả liên minh Tống – Chiêm – Chân Lạp. Vua Harshavarman III của Chân Lạp gởi sang Chiêm Thành một đạo quân kết hợp với quân Chiêm Thành do vua Harivarman IV đích thân chỉ huy, chuẩn bị dùng thuyền chở quân vượt biển tấn công Đại Việt từ phía nam.
Để chuẩn bị lương thực, hậu cần cho cuộc chiến, vua Tống Thần Tông đã không hề tiếc của. Chỉ trong thời gian quân Tống tập hợp thành đội ngũ và tiến sang biên giới nước Đại Việt, Tống triều đã chi hàng trăm vạn quan tiền để mua lương thực trong dân.
Con số hao tốn còn đội lên nhiều lần trong suốt cuộc chiến. Để đảm bảo những yêu cầu mà triều đình đề ra, các quan lại địa phương ra sức vơ vét trong dân chúng.
Vua Tống sai Hàn lâm y quân viện bào chế 57 bài thuốc hoàn trị lam chướng, bệnh tật để mang theo trong quân. Thái y cục cũng được lệnh bào chế 30 bài thuốc trị lam chướng. Ngoài việc lo thuốc thang, vua Tống còn lập đàn cúng bái khi thấy quân lính chưa ra khỏi địa giới nước Tống đã bắt đầu có một số bị bệnh tật.
Nhiều chỉ dụ được ban xuống cho tướng lĩnh và quân lính thực hiện các phép vệ sinh trong sinh hoạt. Sở dĩ mặt sức khỏe quân lính được quan tâm kỹ như vậy là bởi quân tinh nhuệ nước Tống chủ yếu ở miền tây và miền bắc nhưng những quân lính này lại không quen thủy thổ phương nam.
Còn những dân phía nam nước Tống thì quen thủy thổ hơn nhưng không giỏi chiến trận, lại kém trung thành nên không được tin dùng.
Nước Tống thời kỳ này không quen việc vận chuyển bằng đường biển, chỉ dùng thuyền bè men theo các sông trong nội địa là chính. Khi quân Đại Việt tiến sang tàn phá những cầu đường, lấp sông, phá kho tàng khiến cho việc vận chuyển phục vụ cho chiến tranh của Tống rất khó khăn.
Chính điều này làm cho tiến độ chuẩn bị của Tống cho cuộc xâm lược bị chậm trễ rất nhiều. Trong năm 1076, nước Tống đã phải điều động hàng vạn người đắp lại thành Ung Châu, sửa sang lại cầu đường, khai thông lại sông Ung Giang bị quân ta lấp trước đó. Đây có thể coi là một kỳ công của nước Tống để phục vụ cuộc chiến.
Những xe cộ, thuyền bè trong nước dọc đường tiến quân được huy động tối đa. Hàng chục vạn phu phải gồng mình khuân vác hàng hóa ở vùng biên giới Tống – Việt. Những vũ khí tối tân nhất của Tống, thậm chí có thể nói là tối tân nhất thế giới thời bấy giờ đều được đưa sang đánh Đại Việt. Trong đó có thể kể đến hỏa tiễn, máy bắn đá, nỏ lớn, pháo thăng thiên…
Công cuộc chuẩn bị và hành quân được tiến hành song song một cách khẩn trương. Khi quân đi xa kinh thành rồi, vua Tống vẫn dùng thư từ theo dịch trạm để theo dõi và chỉ đạo từ xa. Quách Quỳ dẫn quân gần đến biên giới còn nhận được chiếu của vua Tống như sau:
“Nghe nói vùng khê động có nhiều của quý. Sau khi Giao Chỉ thua, hãy đặt thành quận, huyện mà cai trị và hãy sung công của cải”.
Lời đó lộ rõ mục đích cốt lõi của cuộc chiến không phải là báo thù rửa hận mà chính là để cướp bóc, bành trướng lãnh thổ. Khoảng tháng 8/1076, đạo quân 10 vạn lính với trang bị mạnh, cùng 20 vạn phu dưới trướng của tướng Quách Quỳ đã tiến tới gần biên giới nước ta, quân tiên phong do tướng Nhâm Khởi chỉ huy đã bắt đầu tiến sát các tiền đồn Đại Việt.
Đồng thời cánh thủy quân của Dương Tùng Tiên cũng được lệnh tập trung ở cảng Khâm Châu sẵn sàng xuất phát, chính thức mở màn cuộc chiến tranh xâm lược.