祜曰：“臣年老多病，不堪当此任。陛下另选智勇之士，可也。”
遂辞炎而归。是年十一月，羊祜病危，司马炎车驾亲临其家问安。炎至卧榻前，祜下泪曰：“臣万死不能报陛下也！”
炎亦泣曰：“朕深恨不能用卿伐吴之策。今日谁可继卿之志？”
祜含泪而言曰：“臣死矣，不敢不尽愚诚。右将军杜预可任。若欲伐吴，须当用之。”
炎曰：“举善荐贤，乃美事也；卿何荐人于朝，即自焚其奏稿，不令人知耶？”
祜曰：“拜官公朝，谢恩私门，臣所不取也。”
言讫而亡。炎大哭回宫，敕赠太傅巨平侯。南州百姓闻羊祜死，罢市而哭。江南守边将士，亦皆哭泣。襄阳人思祜存日，常游于岘山，遂建庙立碑，四时祭之。往来人见其碑文者，无不流涕，故名为“堕泪碑”。后人有诗叹曰：
晓日登临感晋臣，古碑零落岘山春。
松间残露频频滴，疑是当年堕泪人。
晋主以羊祜之言，拜杜预为镇南大将军都督荆州事。杜预为人，老成练达，好学不倦，最喜读左丘明春秋传，坐卧常自携，每出入必使人持左传于马前，时人谓之“左传癖”；及奉晋主之命，在襄阳抚民养兵，准备伐吴。
此时吴国丁奉、陆抗皆死，吴主皓每宴群臣，皆令沉醉；又置黄门郎十人为纠弹官。宴罢之后，各奏过失，有犯者或剥其面，或凿其眼。由是国人大惧。晋益州刺史王濬上疏请伐吴。其疏曰：
孙皓荒淫凶逆，宜速征伐。若一旦皓死，更立贤主，则强敌也；臣造船七年，日有朽败；臣年七十，死亡无日。三者一乖，则难图矣。愿陛下无失事机。
晋主览疏，遂与群臣议曰：“王公之论，与羊都督暗合。朕意决矣。”
侍中王浑奏曰：“臣闻孙皓欲北上，军伍已皆整备，声势正盛，难与争锋。更迟一年以待其疲，方可成功。”
晋主依其奏，乃降诏止兵莫动，退入后宫，与秘书丞张华围棋消遣。近臣奏边庭有表到。晋主开视之，乃杜预表也。表略云：
往者，羊祜不博谋于朝臣，而密与陛下计，故令朝臣多异同之议。凡事当以利害相校。度此举之利，十有八九，而其害止于无功耳。自秋以来，讨贼之形颇露；今若中止，孙皓恐怖，徙都武昌，完修江南诸城，迁其居民，城不可攻，野无所掠，则明年之计亦无及矣。
晋主览表才罢，张华突然而起，推却棋枰，敛手奏曰：“陛下圣武，国富民强；吴主淫虐，民忧国敝。今若讨之，可不劳而定。愿勿以为疑？”
晋主曰：“卿言洞见利害，朕复何疑？”
即出升殿，命镇南大将军杜预为大都督，引兵十万出江陵；镇东大将军琅琊王司马伷出滁中；征东大将军王浑出横江；建威将军王戎出武昌；平南将军胡奋出夏口；各引兵五万，皆听预调用。又遣龙骧将军王濬，广武将军唐彬，浮江东下。水陆兵二十余万，战船数万艘。又令冠军将军杨济出屯襄阳，节制诸路人马。
早有消息报入东吴。吴主皓大惊，急召丞相张悌，司徒何植，司空滕修，计议退兵之策。悌奏曰：“可令车骑将军伍延为都督，进兵江陵，迎敌杜预；骠骑将军孙歆进兵拒夏口等处军马。臣敢为将，帅领左将军沈莹，右将军诸葛靓，引兵十万，出兵牛渚，接引诸路军马。”
皓从之，遂令张悌引兵去了。皓退入后宫，面有忧色。幸臣中常侍岑昏问其故。皓曰：“晋兵大至，诸路已有兵迎之，争奈王濬率兵数万，战船齐备，顺流而下，其锋甚锐，朕因此忧也。”
昏曰：“臣有一计，令王濬之舟，皆为虀粉矣。”
皓大喜，遂问其计。岑昏奏曰：“江南多铁，可打连环索百余条，长数百丈，每环重二三十斤，于沿江紧要去处横截之。再造铁锥数万，长丈余，置于水中。若晋船乘风而来，逢锥则破，岂能渡江也？”
皓大喜，传令拨匠工于江边连夜造成铁索、铁锥，设立停当。
却说晋都督杜预，兵出江陵，令牙将周旨引水手八百人，乘小舟暗渡长江，夜袭乐乡，多立旌旗于山林之处，日则放炮擂鼓，夜则各处举火。旨领命，引众渡江，伏于巴山。次日，杜预领大军水陆并进。前哨报道：“吴主遣伍延出陆路，陆景出水路，孙歆为先锋，三路来迎。”
杜预引兵前进，孙歆船早到。两兵初交，杜预便退。歆引兵上岸，迤逦追时，不到二十里，一声炮响，四面晋兵大至，吴兵急回。杜预乘势掩杀，吴兵死者，不计其数。孙歆奔到城边，周旨八百军混杂于中，就城上举火。歆大惊曰：“北来诸军乃飞渡江也！”
急欲退时，被周旨大喝一声，斩于马下。陆景在船上，望见江南岸上一片火起，巴山上风飘出一面大旗，上书“晋镇南大将军杜预”。陆景大惊，欲上岸逃命，被晋将张尚马到斩之。伍延见各军皆败，乃弃城走，被伏兵捉住，缚见杜预。预曰：“留之无用！”
叱令武士斩之，遂得江陵。于是沅、湘一带，直抵黄州诸郡，守令皆望风赍印而降。预令人持节安抚，秋毫无犯，遂进兵攻武昌。武昌亦降。杜预军威大振，遂大会诸将，共议取建业之策。胡奋曰：“百年之寇，未可尽服。方今春水泛涨，难以久住。可俟来春，更为大举。”
预曰：“昔乐毅济西一战，而并强齐；今兵威大震，如破竹之势，数节之后，皆迎刃而解，无复有着手处也。”
遂驰檄约会诸将，一齐进兵，攻取建业。
时龙骧将军王濬率水兵顺流而下。前哨报说：“吴人造铁索，沿江横截；又以铁锥置于水中为准备。”
濬大笑，遂造大筏数十万，上缚草为人，披甲执仗，立于周围，顺水放下。吴兵见之，以为活人，望风先走，暗锥着筏尽提而去。又于筏上作火炬，长十余丈，大十余围，以麻油灌之，但遇铁索，燃炬烧之，须臾皆断。两路从大江而来。所到之处，无不克胜。
却说东吴丞相张悌，令左将军沈莹、右将军诸葛靓，来迎晋兵。莹谓靓曰：“上流诸军不作提防，吾料晋军必至此，宜尽力以敌之。若幸得胜，江南自安。今渡江与战，不幸而败，则大事去矣。”
靓曰：“公言是也。”
言未毕，人报晋兵顺流而下，势不可当。二人大惊，慌来见张悌商议。靓谓悌曰：“东吴危矣，何不遁去？”
悌垂泣曰：“吴之将亡，贤愚共知；今若君臣皆降，无一人死于国难，不亦辱乎？”