这时候，吴国的君主孙休听说司马炎已经篡夺了魏国的皇位，他预感到司马炎接下来一定会来攻打吴国，因此非常担忧，以至于生了病，卧床不起。于是，他召来丞相濮阳兴进入宫中，让自己的太子孙出来拜见濮阳兴。孙休拉着濮阳兴的手臂，指着太子孙，然后就去世了。
濮阳兴出宫后，和大臣们商议，想立太子孙为新的君主。但左典军万彧说：“太子孙年纪太小，不能处理国家大事，我们不如立乌程侯孙皓为君主。”左将军张布也说：“孙皓有才华，识见高明，能决断大事，他可以做皇帝。”丞相濮阳兴犹豫不决，就进宫去禀告朱太后。太后说：“我只是个妇人，怎么知道国家大事？你们自己斟酌着办吧。”于是，濮阳兴就迎接孙皓做了新的君主。
孙皓，字元宗，是孙权太子孙和的儿子。他在那年的七月登上了皇位，改年号为元兴元年，封太子孙为豫章王，追封他的父亲孙和为文皇帝，尊他的母亲何氏为太后，又封丁奉为右大司马。第二年，他又改年号为甘露元年。
但是，孙皓的脾气越来越暴躁，他沉迷于酒色，特别宠爱中常侍岑昏。濮阳兴和张布劝他，他却大怒，把这两个人都杀了，还灭了他们的三族。从此，朝廷的大臣们都不敢再劝谏他了。他又改年号为宝鼎元年，任命陆凯、万彧为左右丞相。
那时候，孙皓住在武昌，扬州的百姓要逆流而上为他提供物资，非常辛苦。而他又奢侈无度，使得国家和百姓的财物都非常匮乏。
陆凯上书劝谏孙皓，但孙皓并不高兴。他还大兴土木，建造了昭明宫，命令文武百官入山采伐木材。又召来术士尚广，让他用蓍草占卜询问夺取天下的事情。尚广回答说：“陛下占卜得到了吉兆：庚子年，青色的车盖将会进入洛阳。”孙皓非常高兴，对中书丞华核说：“先帝听从了你的话，分头派遣将领，沿着长江一带，驻扎了数百个营垒，命令老将丁奉统领他们。我想要兼并汉土，为蜀主复仇，应该先攻取哪个地方呢？”华核劝谏说：“现在成都已经失守，蜀汉灭亡，司马炎一定有吞并吴国的野心。陛下应该修德政来安抚吴国的百姓，这才是上策。如果强行发动战争，就好像披着麻去救火，一定会导致自己毁灭。希望陛下明察。”但孙皓非常生气地说：“我想要趁现在恢复旧业，你却说出这种不吉利的话！如果不看你是旧臣的面子，我就斩首示众！”他喝令武士把华核推出殿门。华核出朝后叹息道：“可惜这锦绣江山，不久就要属于别人了！”于是他就隐居不再出山。
孙皓命令镇东将军陆抗率领jūn_duì 驻扎在江口，以图谋襄阳。这个消息很快就传到了洛阳，近臣向晋主司马炎奏报。司马炎听说陆抗侵犯襄阳，就和大臣们商议对策。贾充出班奏报说：“我听说吴国的孙皓不修德政，专行无道。陛下可以诏令都督羊祜率兵抵抗他，等到他们国家发生变故时，我们乘势攻取，东吴就可以轻易得到了。”司马炎非常高兴，立即降下诏书派遣使者到襄阳宣谕给羊祜。羊祜接到诏书后整顿jūn_duì 准备迎战敌人。
羊祜镇守襄阳期间非常得军民之心。吴国有投降的人想要离开他都听任自便；他减少戍守巡逻的士兵让他们去垦田种地八百余顷。他刚到襄阳时jūn_duì 没有百日之粮但到了末年军中却有十年之积。羊祜在军中常常穿着轻暖的皮衣系着宽大的带子不披铠甲帐前侍卫的士兵也不过十余人。
有一天部将入帐禀告羊祜说：“哨兵来报吴兵都懈怠了我们可以乘他们没有防备时袭击他们一定能获得大胜。”但羊祜笑着说：“你们众人都小看陆抗了吗？这个人足智多谋日前吴主命令他攻拔西陵斩了步阐及其将士数十人我们去救援都来不及了。这个人做将领我们只能自守等到他们内部发生变故时才可以图取。如果不审时度势而轻举妄动这就是取败之道啊。”众将都佩服他的论断于是只自守疆界而已。
有一天羊祜带领众将去打猎正好遇到陆抗也出来打猎。羊祜下令说：“我军不许过界。”众将接到命令后就在晋国地界内打猎没有侵犯吴国境界。陆抗看见后叹息道：“羊将军有纪律我们不能侵犯他啊。”于是双方都各自退回。羊祜回到军中后检查询问所猎得的禽兽发现被吴国人先射伤的都送还给他们。吴国人都非常高兴并把这件事报告给陆抗。陆抗召来报告的人问他说：“你们主帅能喝酒吗？”来人回答说：“只要有好酒他就喝。”陆抗笑着说：“我有一斗好酒藏了很久了。现在交给你带回去拜上都督：这酒是我亲自酿造自己饮用的特地奉上一勺以表示昨天出猎的友好情谊。”来人答应了携带着酒回去了。左右的人问陆抗说：“将军把酒给他们喝有什么用意吗？”陆抗说：“他既然对我们施予恩德我怎么能没有东西来酬答他呢？”众人都感到惊讶不解。
来人回到羊祜那里，把陆抗的问话和送酒的事一一陈述给羊祜听。羊祜笑着说：“他也知道我能喝酒吗！”于是命令打开壶盖取酒来喝。部将陈元说：“这其中恐怕有诡计，都督您应该慢慢喝。”羊祜笑着说：“陆抗不是下毒的人，不必疑虑。”竟然一口气把酒壶里的酒都喝光了。从此，双方使者互相通问，经常往来。
有一天，陆抗派人去问候羊祜。羊祜问：“陆将军身体好吗？”来人说：“主帅卧病在床数日未出。”羊祜说：“我猜他的病和我相同。我已经配好了成熟的药，可以送给他服用。”来人拿着药回去见陆抗。众将说：“羊祜是我们的敌人，这药一定不是好药。”陆抗说：“哪有毒死人的羊叔子呢！你们不要怀疑。”于是就服下了药。第二天病就好了，众将都来拜贺。陆抗说：“他专门用德行，我专门用暴力，这样他就会不战而使我屈服。现在我们应该各自保卫疆界，不要贪图小利。”众将领命。
忽然报告说吴主派使者来到，陆抗接入问其来意。使者说：“天子传旨给将军：赶快进兵，不要让晋人先进入。”陆抗说：“你先回去，我随后就有奏章上奏。”使者辞去后，陆抗就写了一份奏章派人送到建业。近臣呈上奏章，孙皓拆开观看，奏章中详细说明了现在不能攻打晋朝的情况，并且劝吴主修德慎罚，以安定内部为念，不应当以滥用武力为事。吴主看完后大怒说：“我听说陆抗在边境和敌人私通，今天果然如此！”于是就派使者罢免了他的兵权，降为司马，却命令左将军孙冀代替他领军。群臣都不敢进谏。
吴主孙皓自从改元建衡以来到凤凰元年期间恣意妄为、穷兵黩武、屯戍边疆导致上下无不叹息怨恨。丞相万彧、将军留平、大司农楼玄三人见孙皓无道就直言苦劝却都被他所杀。前后十多年里杀了忠臣四十多人。孙皓出入时常常带着五万铁骑侍卫让群臣感到恐怖而无可奈何。
却说在听说陆抗被罢兵和孙皓失德之后羊祜认为吴国有可乘之机于是就写了一份奏章派人送往洛阳请求讨伐吴国。奏章的大致内容是：虽然命运是由天所授予的但是功业却必须依靠人来完成。现在江淮的险要并不如剑阁孙皓的残暴也超过了刘禅吴国人民的困苦更是甚于巴蜀然而大晋的兵力却比过去更加强盛。不在这个时候统一四海却还要相互对峙让天下人民困于征战和戍守之中经历盛衰之变这是不可能长久的。
司马炎看到奏章后非常高兴便下令兴师伐吴。但是贾充、荀勖、冯紞三人却极力劝阻说现在不能出兵于是司马炎就放弃了出兵的打算。羊祜听说皇上没有批准他的请求叹息道：“天下不如意的事情十有八九。现在上天赐给我们机会却不去夺取岂不是太可惜了吗！”到了咸宁四年羊祜入朝向司马炎奏请辞官回乡养病。司马炎问他：“你有什么安邦之策可以教给我吗？”羊祜说：“孙皓暴虐已极现在可以不战而胜。如果孙皓不幸去世另立贤明的君主那么吴国就不是陛下所能得到的了。”司马炎恍然大悟说：“你现在就提兵去攻打吴国如何？”羊祜说：“我年老多病不能担当这个重任陛下还是另选智勇之士吧。”于是就辞别了司马炎而归乡了。在那年十一月羊祜病危司马炎亲自驾车来到他家里问候他的病情。当司马炎走到他的卧榻前时羊祜流泪说：“我即使死一万次也不能报答陛下啊！”司马炎也哭着说：“我深深悔恨没有采纳你的伐吴之策。今天谁可以继承你的遗志呢？”羊祜含泪说：“我就要死了不敢不尽我的愚诚。右将军杜预可以担当这个重任如果要伐吴必须任用他。”司马炎说：“举荐贤才是美事啊你为什么在朝廷上推荐人才之后却自己烧掉奏稿不让别人知道呢？”
羊祜说：“在朝廷上接受官职，却在私人家里拜谢恩赐，这是我不能做的事情。”说完这句话后就去世了。晋武帝司马炎大哭着回宫，下令追赠羊祜为太傅、巨平侯。南州的百姓听到羊祜去世的消息，都停止了市场交易而哭泣，江南守边的将士也都哭泣。襄阳的人们怀念羊祜在世时的日子，他常常游览岘山，于是人们在那里建庙立碑，四季祭祀他。来往的人看到那块碑文，没有不流泪的，因此那块碑被称为“堕泪碑”。后来有人写诗赞叹道：
晓日登临感晋臣，古碑零落岘山春。
松间残露频频滴，疑是当年堕泪人。
晋武帝按照羊祜的建议，任命杜预为镇南大将军，都督荆州事务。杜预为人稳重练达，好学不倦，最喜欢读左丘明的《春秋传》，无论坐着还是躺着都常常随身携带，每次出入都让人在马前拿着《左传》，因此当时的人称他为“左传癖”。他奉晋武帝之命，在襄阳安抚百姓，训练jūn_duì ，准备伐吴。
此时吴国的丁奉、陆抗都已去世，吴主孙皓每次宴请群臣，都让他们喝得大醉，又设置了十个黄门郎作为纠察弹劾的官员。宴会结束后，他们各自奏报群臣的过失，有犯错的人或者被剥去面皮，或者被挖出眼睛，因此吴国的人们都非常害怕。晋国的益州刺史王濬上疏请求伐吴，他的奏疏说：