這四路大軍大張旗鼓，同時向吳國發起進攻。吳國區區一隅之地，能拿多少兵馬來抵擋呢？當然會捉襟見肘，擋住一路，便放開了另外幾路，這是舉國交戰下必然會導致的局面。
其中羊祜著重分析到吳軍的作戰風格。
他認為受吳國朝局影響，東吳士卒向來不敢野戰，“無有保世之計，一定之心”，應付一下也就對得起上司了，“其俗急速，不能持久”，之所以這么多年能夠割據，也不是因為其它，還是水師強盛，“弓弩戟盾不如中國，唯有水戰是其所便”，只要我軍能夠渡過長江，吳人打不了水戰，他們就束手無策了，“一入其境，則長江非復所固，還保城池，則去長入短。”
這就是羊祜最著名的《請伐吳疏》，只是在上奏后，依舊受到賈充等開國元勛的反對，僅有張華、杜預等寥寥幾人上表贊成。
到了咸寧四年（公元278年）八月，西晉伐吳派領袖羊祜病逝，作為國家外戚，鎮南名將，羊祜的死，是西晉一大損失。天子司馬炎得知噩耗后，不勝驚愕，隨后涕淚沾巾，悲嘆道：“我還想讓羊公統帥征吳大軍，怎料他竟然撒手西去了。”
在羊祜葬禮上，天子更是感情至深，當眾流涕，對身邊人說道：“羊公一去，我該把統一大業交給誰呢？”
結果在當年年底，龍驤將軍、監梁益諸軍事王濬突然上疏朝廷，自稱已在益州造成樓船水師，足可橫行江上，水戰無敵。如果再拖宕時日，導致木船腐朽，恐怕伐吳就將再無機會了。
而在次年八月，新任鎮南大將軍杜預上任，他自行其是，率軍突襲吳軍名將張政，又將抓到的俘虜直接送往建業，以此激怒孫皓，使得孫皓臨陣換將，以武昌監劉憲取代張政。
至此，伐吳的時機已完全成熟，雖然仍舊有王渾、賈充、荀勖等老臣反對伐吳，在這一次至關重要的辯論下，杜預、王濬等人的堅持取得了勝利，司馬炎終于下定決心伐吳。
但耐人尋味的是，這次有人提出了一個極為費解的反對意見。
此人便是尚書仆射山濤，他私下里這么對司馬炎說道：“天家不是圣人，若是消滅了外患，就必定會生出內憂，現在滅吳也就能讓朝廷不再懼怕外敵，實際上卻不利于長遠啊！”
這話實在是莫名其妙，什么叫消滅外患就必定生出內憂，莫非打勝仗還能有壞處不成？還有那句誅心的“自非圣人”，又是什么意思？好在司馬炎為政寬宏，既然決心伐吳，也就不在這些細枝末節上計較了。
咸寧五年（公元279年）十一月，西晉朝廷調集二十余萬大軍，以魯公賈充為主帥，按照羊祜生前的戰略計劃，兵分六路：
龍驤將軍王濬，廣武將軍、巴東監軍唐彬自巴蜀順江東下，直指建業；
鎮南大將軍杜預自襄陽向江陵方向進軍，爾后南下長江、湘水，攻略交廣；
平南將軍胡奮自荊州攻夏口；