太康元年（公元280 年）春天正月，吴国为了安抚人心，宣布大赦天下。
晋军这边，杜预率军直逼江陵，王浑从横江出兵，他们攻打吴国的各个军事重镇和据点，所到之处，吴军纷纷溃败。二月戊午日，王濬和唐彬击败了丹阳监盛纪。吴国为了阻挡晋军战船，在长江险要的江滩处，用粗大的铁锁链横拦江面；还打造了一丈多长的铁锥，偷偷沉在江里，想以此来阻拦晋军舰船。王濬想出了应对办法，他造了几十只大筏子，每只都有一百多步见方，在筏子上绑上草人，给草人披上铠甲、拿着兵器，让水性好的士兵驾着筏子走在前面。铁锥碰到筏子，就扎在上面被带走了。他又制作了长十多丈、粗几十围的大火炬，灌上麻油，放在战船前面。遇到铁锁链，就点燃火炬焚烧，不一会儿，铁锁链就被烧得融化断开，晋军战船通行无阻。庚申日，王濬攻克西陵，杀掉了吴国都督留宪等人。壬戌日，又拿下荆门、夷道两座城池，杀死夷道监陆晏。杜预派牙门周旨等率领八百奇兵，在夜里乘船渡江，偷袭乐乡。他们到处张挂旗帜，在巴山燃起大火。吴国都督孙歆吓得不轻，给江陵督伍延写信说：“北边来的晋军，简直是飞过来的！”周旨等人在乐乡城外设下埋伏，孙歆派兵迎战王濬，结果大败而归。周旨他们等孙歆的败军一回来，就跟着混进城去，孙歆都没察觉，晋军一直冲到他的营帐，把他活捉了。乙丑日，王濬击杀吴国水军都督陆景。杜预接着进攻江陵，甲戌日成功攻克，斩杀伍延。这下，沅江、湘江以南，一直到交州、广州的各个州郡，都望风而降，纷纷送上官印。杜预手持符节，以皇帝的名义安抚这些地方。这一路下来，晋军一共斩杀、俘虏吴国都督、监军十四人，牙门、郡守一百二十多人。胡奋也攻克了江安。
乙亥日，晋武帝下诏：“王濬、唐彬平定巴丘后，和胡奋、王戎一起拿下夏口、武昌，然后顺着长江长驱直入，直捣秣陵。杜预则要稳定零陵、桂阳，安抚衡阳。大军过境后，荆州南部地区传一道檄文就能平定。杜预等人要分兵支援王濬、唐彬，太尉贾充把军队转移到项地驻扎。”王戎派参军襄阳人罗尚、南阳人刘乔带兵和王濬会合，一起攻打武昌，吴国江夏太守刘朗、督武昌诸军虞昺都投降了。虞昺是虞翻的儿子。
杜预和众将领商议接下来的行动，有人说：“吴国作为我们的对手已经上百年了，不可能一下子消灭干净。现在春天江水上涨，我们在这里不好久留，不如等到冬天，再大举进攻。”杜预反驳道：“以前乐毅靠济西一战就吞并了强大的齐国，如今我们军威正盛，就像劈竹子一样，劈开几节之后，后面的竹子就会迎着刀刃自己裂开，根本不费力气。”于是，他给各位将领安排好作战计划，直接向建业进军。
吴主孙皓听说王浑的军队南下，赶紧派丞相张悌督率丹阳太守沈莹、护军孙震、副军师诸葛靓，率领三万大军渡江迎战。到了牛渚，沈莹劝说道：“晋军在蜀地训练水军已经很久了，我们上游的军队一直没什么戒备，有名的将领都死了，现在都是些年轻人统领军队，恐怕抵挡不住。晋军的水军肯定会打到这里，我们应该集中兵力，等他们来了再打。要是能侥幸获胜，长江以西自然就太平了。现在渡江和晋军主力决战，万一失败，那可就大势已去了！”张悌却认为：“吴国要灭亡，这是明摆着的事，不管聪明人还是糊涂人都知道，不是今天才看出来。我担心等晋军到了，大家心里害怕，队伍就散了，没法再组织起来作战。趁着现在渡江，还能拼一拼。要是失败了，我们一起为国家战死，也没什么遗憾的。要是打赢了，北边的敌人逃跑，我们军威大振，到时候乘胜南下，在半路上迎击敌军，不愁打不赢。要是按你的办法，恐怕士兵都跑光了，我们只能干等着敌人来，君臣一起投降，连一个为国死战的人都没有，这不是太丢人了吗！”
三月，张悌等人渡过长江，把王浑的部将城阳都尉张乔包围在杨荷。张乔手下只有七千人，他关闭营栅请求投降。诸葛靓想把这些降兵都杀了，张悌说：“强敌还在前面，没必要先对付这些小股敌人，而且杀投降的人不吉利。”诸葛靓反驳道：“这些人是因为救兵没到，兵力不够，才假装投降来拖延时间，并不是真心归降。要是放了他们继续前进，肯定会后患无穷。”张悌没听他的，安抚了降兵后继续进军。张悌的军队和扬州刺史汝南人周浚的军队摆开阵势对峙，沈莹率领丹阳精锐士卒、手持刀盾的五千士兵，三次冲击晋军阵地，都没能突破。沈莹只好率军后退，这一退，队伍就乱了。晋军将军薛胜、蒋班趁着吴军混乱发起攻击，吴军开始溃逃，将领们根本拦不住。张乔又从后面发起攻击，在版桥把吴军打得大败。诸葛靓带着几百人逃走，他派人去接张悌，张悌不肯走。诸葛靓亲自去拉他，说：“国家存亡自有定数，不是你一个人能改变的，何必白白送死！”张悌流着泪说：“仲思（诸葛靓字仲思），今天就是我的死期！我从小就被你家丞相赏识提拔，一直担心不能为国战死，辜负了他的知遇之恩。现在能为国家献身，还有什么可说的！”诸葛靓再三拉他，他都不动，诸葛靓只好流着泪离开。刚走了一百多步，回头一看，张悌已经被晋军杀死。这一战，晋军还斩杀了孙震、沈莹等七千八百人，吴国上下一片震惊。
一开始，晋武帝下诏让王濬攻下建平后，受杜预指挥；到建业后，受王浑指挥。杜预到江陵后，对将领们说：“要是王濬攻下建平，就会顺流直下，那时候他威名远扬，不适合再受我指挥；要是他攻不下建平，我指挥他也没用。”王濬到西陵后，杜预给他写信说：“你已经摧毁了吴国西边的屏障，就该直接攻打建业，消灭这个多年的敌人，把吴国人从苦难中解救出来，然后整顿军队回都城，这可是千古难得的大功劳！”王濬看了信很高兴，把杜预的信上奏给晋武帝。张悌战败死后，扬州别驾何恽对周浚说：“张悌带着吴国全部精锐在这里被消灭，吴国朝廷和民间都吓破了胆。现在王濬已经攻破武昌，乘胜东下，所到之处战无不胜，吴国已经土崩瓦解了。我们应该赶紧渡江，直奔建业，大军突然杀到，就能震慑住敌人，说不定不用打仗就能拿下吴国！”周浚觉得这个主意好，就派人报告王浑。何恽说：“王浑做事不果断，就想着不犯错保自己平安，肯定不会听我们的。”周浚坚持派人去，王浑果然说：“我接到的诏令是让我在长江北岸驻扎，抵御吴军，不能轻易进军。你们州的军队虽然勇猛，但难道能独自平定江东吗？现在违背命令，就算打赢了也没什么可称赞的；要是打败了，那罪过就大了。而且诏令说王濬要受我指挥，你们准备好船只，到时候一起渡江就行了。”何恽说：“王濬攻克了这么强大的敌人，带着已经取得的战功来受你指挥，我可没听说过这样的事。再说您作为上将，看到有机会就该进军，难道什么事都要等诏令吗？现在渡江，十拿九稳能取胜，还有什么可犹豫的，为什么停滞不前呢？这让我们州上下的人都很不满！”但王浑就是不听。
王濬从武昌顺流而下，直扑建业。吴主孙皓派游击将军张象率领一万水军去抵御，结果张象的军队远远看到晋军的旗帜就投降了。王濬的军队战船布满江面，旌旗遮天蔽日，威势震天，吴国人吓得不行。吴主宠信的大臣岑昏，为人阴险、爱阿谀奉承，却做到了九卿的高位。他还喜欢大兴土木，让百姓苦不堪言。晋军快打到建业时，宫中几百个亲近侍从向吴主叩头说：“北边的晋军一天天逼近，可我们的士兵都不肯打仗，陛下打算怎么办？”吴主问：“为什么会这样？”大家回答：“就是因为岑昏！”吴主只好说：“要是这样，就拿这奴才向百姓谢罪！”众人齐声说：“好！”于是一起冲出去抓住岑昏。吴主赶紧派人去追，想阻止，可岑昏已经被杀了。
陶浚原本要去讨伐郭马，到武昌后，听说晋军大举进攻，就带兵东撤，回到建业。吴主召见他，询问水军的情况，陶浚说：“蜀军（晋军）的战船都很小，现在给我两万士兵，乘着大船去作战，肯定能打败他们。”吴主就召集士兵，把符节和斧钺交给陶浚，让他领兵迎敌。可到了第二天该出发的时候，夜里士兵就全都逃散了。
这时，王浑、王濬和琅邪王司马伷都已经逼近吴国边境，吴国司徒何植、建威将军孙晏纷纷把官印、符节送到王浑那里投降。吴主采用光禄勋薛莹、中书令胡冲等人的计策，分别派使者给王浑、王濬、司马伷送去书信，表示愿意投降。他还给吴国群臣写信，狠狠责备自己，并且说：“现在大晋统一天下，正是英雄豪杰施展才华的时候，大家不要因为改朝换代，就放弃自己的志向。”使者先把玉玺送到琅邪王司马伷那里。壬寅日，王濬的水军经过三山，王浑派人送信，让王濬暂时过来商量事情。王濬却扬起船帆，直奔建业，回复说：“风太大，船停不下来！”当天，王濬率领八万士兵，战船相连百里，擂鼓呐喊着进入石头城。吴主孙皓双手反绑，拉着棺材，来到晋军军营门前投降。王濬解开他的绑绳，烧掉棺材，以礼相待。至此，晋军接收了吴国的地图和户籍，一共攻克四个州，四十三个郡，五十二万三千户百姓，二十三万军队 ，吴国正式灭亡。
晋朝朝廷得知吴国已被平定，大臣们纷纷向晋武帝祝贺。武帝手持酒杯流泪说：“这都是羊祜太傅的功劳啊！”只有骠骑将军孙秀没有祝贺，他面向南方流泪道：“从前讨逆将军（孙策）二十岁以校尉身份开创基业，如今后主却把整个江南都放弃了，祖宗宗庙从此化为废墟。苍天啊，这都是些什么人啊！”
当初还没攻下吴国时，大臣们都认为不能轻易进军，只有张华坚持说一定能攻克。贾充却上表称：“吴地不能完全平定，现在正是夏天，长江、淮河下游潮湿，必定会发生瘟疫，应该召回各路军队，以后再做打算。即使腰斩张华也不足以向天下谢罪。”武帝说：“这是我的主意，张华只是和我意见相同罢了。”荀勖又上奏，认为应按贾充的奏表行事，武帝没有听从。杜预听说贾充上奏请求罢兵，赶紧派人快马加鞭上表坚决反对，使者刚到轘辕山就得知吴国已投降。贾充又惭愧又害怕，到皇宫请罪，武帝安抚他，没有追究。
夏天四月甲申日，晋武帝下诏赐给孙皓归命侯的爵位。乙酉日，大赦天下，改年号为太康，全国聚饮五天。派使者分别到荆州、扬州安抚百姓，吴国的州牧、太守以下官员都不更换，废除吴国的苛政，一切从简，吴国人非常高兴。
滕修讨伐郭马尚未成功，听说晋军讨伐吴国，就率领部下前往救援，到巴丘时，听说吴国已灭亡，就穿上丧服流泪，返回后与广州刺史闾丰、苍梧太守王毅分别送上官印请求投降。孙皓派陶璜的儿子陶融带着亲笔信去劝降陶璜，陶璜流了几天泪，也送上官印投降，武帝都恢复了他们的原职。
王濬东下时，吴国的城池守军都望风归降，只有建平太守吾彦据城坚守，听说吴国灭亡后才投降，武帝任命吾彦为金城太守。当初朝廷尊崇宠信孙秀、孙楷，想借此招降吴人，等到吴国灭亡，就降孙秀为伏波将军，孙楷为渡辽将军。
琅邪王司马伷派使者将孙皓及其宗族送往洛阳。五月丁亥初一，孙皓到达洛阳，与太子孙瑾等人用泥涂头，反绑双手，到东阳门投降。武帝下诏派谒者解开他们的绑绳，赐给衣服、车马、三十顷田地，每年给予丰厚的钱谷、绵绢。任命孙瑾为中郎，孙皓其他被封为王的儿子都为郎中，对吴国的旧臣，根据才能提拔任用。跟随孙氏将士渡江的人免除十年赋役，百姓免除二十年赋役。
庚寅日，武帝到殿前，大会文武官员及四方使者，国子学生也参加了。召见归命侯孙皓及吴国投降的人，孙皓登殿叩头。武帝对孙皓说：“我设这个座位等你很久了。”孙皓说：“我在南方，也设这个座位等陛下。”贾充对孙皓说：“听说你在南方凿人眼睛，剥人面皮，这是什么刑罚？”孙皓说：“臣子有弑君或奸邪不忠的，就对他用这种刑罚。”贾充默默无言，十分惭愧，而孙皓面不改色。
武帝从容问散骑常侍薛莹孙皓亡国的原因，薛莹回答：“孙皓亲近小人，刑罚滥用，大臣和将领们都不能自保，这就是他亡国的原因。”过了几天，武帝又问吾彦，吾彦回答：“吴主英明，宰相贤明。”武帝笑着说：“如果是这样，为什么会亡国？”吾彦说：“上天赐的福禄终有尽头，天命有所归属，所以被陛下擒获。”武帝很欣赏他的回答。
王濬进入建业的第二天，王浑才渡过长江，因王濬没等他到就先接受孙皓投降，心里又羞愧又愤怒，打算攻打王濬。何攀劝王濬把孙皓送给王浑，此事才得以解决。何恽因为王浑与王濬争功，给周浚写信说：“《尚书》看重谦让，《周易》推崇谦虚。之前攻破张悌，吴人已丧失士气，龙骧将军（王濬）趁机攻占吴都。论先后，我们确实进军迟缓，既已失去机会，没参与其事，如今却要争功；对方既然不肯隐忍，将会损害和睦的大局，引发争相夸耀的鄙陋之风，这是我所不认同的。”周浚收到信后，立即劝谏王浑，王浑不听，上表称王濬违抗诏命不接受指挥，诬陷他有罪。王浑的儿子王济娶了常山公主，宗族势力强盛。有关部门上奏请求用囚车征召王濬，武帝不同意，只是下诏书责备王濬不服从王浑命令，违反制度贪图利益。
王濬上书为自己辩解说：“之前接到诏书，让我直接前往秣陵，又让我接受太尉贾充指挥。我在十五日到达三山，看见王浑的军队在北岸，他送信邀请我；我的水军顺风乘势，径直前往贼城，无法回船去见王浑。我在中午到达秣陵，傍晚才收到王浑下达的应当接受指挥的符节，他想让我第二天（十六日）率领全部部下回去包围石头城，又索要蜀军及镇南各军的人员名单。我认为孙皓已来投降，没必要空围石头城；而且士兵名册不可能仓促间准备好，这些都不是当务之急，不能接受执行，并非敢忽视放弃明令。孙皓众叛亲离，孤身一人，像雀鼠一样贪生，苟且求活罢了，而江北各军不知虚实，不早捉拿，自己犯了小错。我一到就捉住了他，反而被怨恨，他们都说：‘围困敌人百日，却让别人得到功劳。’我认为事奉君主的原则，只要对国家有利，生死都可不顾。如果为了避免嫌疑而逃避责任，这是臣子保全自身的做法，实在不是圣明君主和国家的福气。”
王浑又转交周浚的信说：“王濬的军队得到吴国的宝物。”还说“王濬的牙门将李高放火烧孙皓的宫殿”。王濬又上表说：“我孤立无援，与强大的宗族结怨。冒犯君主，罪行还可挽救；得罪权贵大臣，灾祸则难以预测。伪郎将孔摅说：去年二月武昌失守，水军到来，孙皓巡视石头城回来，身边的人都拔刀大呼说：‘要为陛下决一死战。’孙皓大喜，以为必定能这样，就拿出全部金宝赏赐他们。小人无礼，拿到就跑。孙皓害怕，才图谋投降。投降使者刚走，身边的人就抢劫财物，掠夺妻妾，放火烧宫。孙皓逃窜，担心不能活命。我到达后，派参军去救灭了火。周浚先进入孙皓的宫殿，王浑又先登上孙皓的船，我进去查看都在他们之后。孙皓宫中连坐的席子都没有，如果有遗留的宝物，那周浚和王浑会先得到。他们等说我聚集蜀人，不及时送孙皓，想谋反。又恐吓吴人，说我要诛杀他们，抓走他们的妻子儿女，希望他们作乱，得以发泄私愤。连谋反大逆的罪名都强加给我，其余的诽谤自然也就来了。今年平定吴国，确实是大庆；对我而言，却反而受到责难。”
王濬到京城后，有关部门上奏说王濬违抗诏命，大不敬，请求交付廷尉治罪，武帝不允许。又上奏说王濬在大赦后烧毁贼船一百三十五艘，请求交付廷尉审讯，武帝下诏不予审讯。
王浑、王濬争功不止，武帝命令守廷尉广陵人刘颂查核此事，刘颂认为王浑功劳最大，王濬为中功。武帝认为刘颂断案不合理，将他降职为京兆太守。
庚辰日，增加贾充封邑八千户，任命王濬为辅国大将军，封襄阳县侯；杜预为当阳县侯；王戎为安丰县侯；封琅邪王司马伷的两个儿子为亭侯；增加京陵侯王浑封邑八千户，进爵为公爵；尚书关内侯张华进封广武县侯，增加封邑一万户；荀勖因专门掌管诏命有功，封他一个儿子为亭侯；其他各位将领及公卿以下官员，赏赐各有不同。武帝因为平定吴国，祭告羊祜庙，封羊祜的夫人夏侯氏为万岁乡君，食邑五千户。
王濬觉得自己灭吴功劳巨大，却被王浑父子及其党羽打压，心里很不服气。每次进见晋武帝，他都要讲述自己征战的辛苦，还有被冤枉的委屈，有时气得控制不住情绪，直接转身就走，也不向武帝告辞。不过武帝每次都宽容他。益州护军范通劝王濬：“您功劳确实大，但可惜在处理功劳这件事上不够完美。您凯旋的时候，要是戴着普通头巾回家，绝口不提平定吴国的事，有人问起来，就说‘这是皇上圣明，各位将领出力，我有什么功劳！’就像蔺相如那样谦逊，让廉颇自愧不如，王浑还好意思跟您争吗？”王濬说：“我一开始是吸取邓艾的教训，怕惹祸上身，才不得不说；后来实在憋不住，是我心胸太狭隘了。”当时大家都觉得王濬功劳大，得到的回报却太少，纷纷为他打抱不平。博士秦秀等人还上表为他鸣冤，武帝这才升任他为镇军大将军。后来王浑去拜访王濬，王濬提前布置好卫兵，才敢见他。
杜预回到襄阳后，认为天下虽然太平，但忘了备战就会有危险，于是经常组织军事训练，加强边防。他还引来滍水、淯水灌溉一万多顷农田，开通扬口，让零陵、桂阳的漕运更加通畅，公家、私人都从中受益。杜预不会骑马，射箭也射不穿铠甲，但他用兵如神，其他将领都比不上。他在镇守襄阳时，经常给洛阳的权贵送礼。有人问他原因，他说：“我只求他们别害我，不指望他们帮我。”
王浑被升任为征东大将军，再次镇守寿阳。诸葛靓为躲避晋武帝，一直躲着不出来。武帝和诸葛靓以前有交情，诸葛靓的姐姐又是琅邪王妃，武帝知道他躲在姐姐家，就亲自去找他。诸葛靓吓得躲进厕所，武帝还是找到他，说：“没想到今天还能见到你！”诸葛靓流着泪说：“我没勇气像豫让那样毁容，现在见到陛下，实在羞愧！”武帝想封他为侍中，他坚决推辞，回到家乡后，一辈子坐着的时候都不面向朝廷方向。
六月，晋武帝恢复丹水侯司马睦的爵位，封他为高阳王。秋天八月己未日，封弟弟司马延祚为乐平王，但司马延祚很快就去世了。九月庚寅日，贾充等人认为天下已经统一，多次请求举行封禅大典，武帝没有答应。
冬天十月，前将军、青州刺史淮南人胡威去世。胡威在担任尚书时，曾劝谏武帝，说当时政策太过宽松。武帝说：“尚书郎以下的官员，我不会宽容。”胡威说：“我要说的，不是丞、郎、令史这些小官，而是像我这样的大臣，只有严格要求我们，才能整顿风气，严明法纪！”
这一年，晋朝把司隶校尉管辖的郡设为司州。此时全国共有十九个州，一百七十三个郡国，二百四十五万九千八百四十户。武帝下诏：“从东汉末年开始，天下大乱，刺史既要管理民政，又要统领军队。如今天下统一，应该放下武器，让刺史的职责恢复到汉朝时的样子，把州郡的军队都撤掉，大郡只留一百名武官，小郡留五十名。”交州牧陶璜上书反对：“交州、广州西边几千里，还有六万多户不服从管理，真正服兵役、劳役的，才五千多家。这两个州相互依存，只有靠军队才能镇守。而且宁州的各少数民族部落，占据上游，水路、陆路都能通行，州里的军队不能减少，不然太薄弱了。”仆射山涛也说不能撤掉州郡的军队。但武帝不听。到了永宁年间以后，盗贼四起，州郡没有军队，根本无法平乱，天下大乱，就像山涛说的那样。后来刺史又开始同时管理军政和民政，州镇的权力越来越大。
从汉、魏以来，投降的羌、胡、鲜卑等少数民族，大多被安置在边塞内的各个郡。后来他们多次因为怨恨，杀害当地官员，渐渐成了大患。侍御史西河人郭钦上书说：“少数民族强悍野蛮，自古以来就是祸患。曹魏初期人口少，西北各郡大多住着少数民族，连京兆、魏郡、弘农这些地方都有。现在他们虽然表面服从，但百年之后如果发生战乱，胡人的骑兵从平阳、上党出发，不到三天就能打到孟津，到时候北地、西河、太原、冯翊、安定、上郡就都成了少数民族的地盘。应该趁着平定吴国的威风，依靠谋臣猛将的智慧，慢慢把内地的少数民族迁到边疆，加强边境管理，恢复古代的边疆制度，这才是长久之计。”可惜武帝也没听进去。
太康二年（公元281年）春天三月，武帝下诏挑选孙皓宫中的五千名宫女入宫。平定吴国后，武帝开始沉迷享乐，不理政事，后宫宫女差不多有上万人。他经常坐着羊拉的车在宫里闲逛，羊停在哪里，他就在哪里休息。宫女们为了得到宠幸，就在门口插上竹叶，在地上洒盐水，吸引羊把车拉到自己门前。皇后的父亲杨骏和他的弟弟杨珧、杨济开始掌权，他们勾结权贵，收受贿赂，权势大到能影响朝廷内外，当时的人把他们称为“三杨”，很多老臣都被疏远排挤。山涛多次劝谏武帝，武帝虽然明白，但就是不改。
当初，鲜卑族的莫护跋从塞外迁到辽西棘城以北，他的部落被称为慕容部。莫护跋的孙子慕容涉归，又把部落迁到辽东以北。慕容部世代归附中原王朝，多次跟随朝廷出征立功，慕容涉归被封为大单于。冬天十月，慕容涉归开始侵犯昌黎。十一月壬寅日，高平武公陈骞去世。这一年，扬州刺史周浚把治所迁到秣陵。吴国那些不服晋朝统治的百姓，多次叛乱，都被周浚平定。他礼待当地的德高望重的老人，选拔人才，恩威并施，吴地的百姓渐渐心服口服。
太康三年（公元282年）正月丁丑初一，武帝亲自到南郊祭祀。祭祀结束后，他感慨地问司隶校尉刘毅：“你觉得我能和汉朝哪个皇帝相比？”刘毅直言不讳：“和桓帝、灵帝差不多。”武帝大吃一惊：“怎么会这么差？”刘毅说：“桓帝、灵帝卖官，钱都收进国库；陛下您卖官，钱都进了自己腰包。这么看，您还不如他们呢！”武帝听了反倒大笑：“桓帝、灵帝那会儿，可没人敢说这种话。现在我有你这样的直臣，还是比他们强。”
刘毅担任司隶校尉，专门监督权贵，毫不留情。皇太子的仪仗队从东掖门违规进入，他直接上奏弹劾。中护军、散骑常侍羊琇，和武帝是故交，掌管禁军，参与朝廷机密十几年，仗着受宠，骄横奢侈，多次犯法。刘毅上奏，说羊琇按罪当死。武帝让齐王司马攸私下找刘毅求情，刘毅才答应从轻处理。都官从事广平人程卫直接冲进羊琇的军营，逮捕他的下属，审讯他暗中干的坏事，抢先把羊琇违法乱纪的事上奏给武帝，然后才告诉刘毅。武帝没办法，只好免去羊琇的官职，但没过多久，又让他以平民身份继续任职。羊琇是景献皇后的堂弟，后将军王恺是文明皇后的弟弟，散骑常侍、侍中石崇是石苞的儿子。这三个人都特别有钱，还互相攀比奢侈。王恺用麦芽糖刷锅，石崇就用蜡烛当柴火烧；王恺用紫丝织成四十里长的步障，石崇就用锦缎做五十里长的步障；石崇用花椒粉涂抹墙壁，王恺就用赤石脂装饰房屋。武帝还经常帮着王恺，有一次赐给他一棵两尺多高的珊瑚树，王恺拿去给石崇炫耀，石崇直接用铁如意把珊瑚树打碎。王恺又气又急，以为石崇是嫉妒他。石崇说：“别生气，现在就还你！”然后让仆人把家里的珊瑚树都搬出来，三四尺高的就有六七棵，和王恺那棵差不多的更是数不胜数，王恺顿时尴尬得说不出话。
车骑司马傅咸上书说：“古代圣王治理天下，吃肉穿帛都有严格规定。我觉得奢侈浪费造成的危害，比天灾还严重。古代人口多、土地少，却能有积蓄，是因为大家都节俭；现在土地多、人口少，却还觉得不够用，就是因为太奢侈了。想要让大家崇尚节俭，就得严惩奢侈行为。如果对奢侈不闻不问，大家就会争相攀比，永无止境！”
尚书张华凭借文学才华和见识，在当时声望很高，大家都觉得他应该升任三公。但中书监荀勖、侍中冯紞因为伐吴时意见不合，一直记恨他。有一次武帝问张华：“谁能托付后事？”张华回答：“论品德和血缘亲近，没人比得上齐王司马攸。”这话得罪了武帝，荀勖趁机诬陷他。甲午日，武帝派张华去都督幽州诸军事。张华到任后，安抚汉族和少数民族百姓，声望越来越高，武帝又想把他调回朝廷。冯紞陪武帝聊天时，故意说起钟会谋反的事，他说：“钟会谋反，其实怪太祖（司马昭）。”武帝脸色大变：“你胡说什么！”冯紞赶紧磕头谢罪：“我听说善于驾驭马车的人，一定懂得控制缰绳的松紧。孔子因为子路太勇猛，就劝他遇事冷静；冉求性格懦弱，就鼓励他大胆行动。汉高祖宠信五个异姓王，最后都被灭了；光武帝约束将领，才得以善终。这不是因为君主有仁慈和残暴之分，臣子有聪明和愚笨之别，而是因为对臣子的褒贬、赏罚不同罢了。钟会才能有限，太祖却过度夸奖他，给他重权，让他统领大军，才让他觉得自己无所不能，功劳大得无法奖赏，最后才谋反。要是太祖能只任用他的小才能，用礼法约束他，用权威压制他，让他守规矩，他也不会起反心。”武帝点头说：“有道理。”冯紞又磕头说：“陛下既然认同我的话，就该防微杜渐，别再让钟会这样的人酿成大祸。”武帝问：“现在还有像钟会这样的人吗？”冯紞示意周围人退下，然后说：“陛下身边谋划大事、立过大功，还掌握兵权、镇守一方的大臣，您应该好好考虑考虑。”武帝听了沉默不语，从此打消了召回张华的念头。
太康三年（公元282年）三月，安北将军严询在昌黎击败慕容涉归，斩杀、俘虏敌军上万人。
鲁公贾充年老多病，晋武帝派皇太子去探视他的日常起居。贾充自己很在意死后的谥号和传承，侄子贾模说：“是非功过时间久了自然清楚，掩盖不了的！”同年夏四月庚午日，贾充去世。他的嫡长子贾黎民早逝，没有后代，妻子郭槐想让贾充的外孙韩谧继承贾充的爵位。郎中令韩咸、中尉曹轸劝阻说：“礼法上没有让异姓继承的说法，现在这么做，会让贾公在后世被人讥笑，在地下也会心怀愧疚。”郭槐不听，韩咸等人上书请求重新选立继承人，这事却一直被搁置没有答复。郭槐于是上表陈情，称这是贾充的遗愿，武帝竟然同意了，还下诏说“除非功劳像贾充这样大，又是始封爵位且无后代的，否则都不能这样做”。等到太常寺商议贾充谥号时，博士秦秀说：“贾充违背礼法、沉溺私情，扰乱人伦。以前鄫国让外孙、莒国公子做继承人，《春秋》就记载‘莒人灭鄫’。这是断绝父祖的祭祀，开了朝廷混乱的源头。按照《谥法》，‘昏乱纪度曰荒’，我建议谥号为‘荒公’。”武帝没听，改谥号为“武” 。
闰月丙子日，广陆成侯李胤去世。
齐王司马攸的品德和声望越来越高，荀勖、冯紞、杨珧却都很讨厌他。冯紞对武帝说：“陛下下诏让诸侯回封国，应该先从亲近的诸侯开始。最亲近的就是齐王，现在只有他留在京城，合适吗？”荀勖也说：“朝廷内外官员都一心归附齐王，陛下百年之后，太子恐怕就当不了皇帝了。陛下可以试试下诏让齐王回封国，要是满朝大臣都反对，那就说明我说的没错。”武帝觉得有道理。这年冬十二月甲申日，武帝下诏：“古代诸侯有了最高等级的九命爵位，可以入朝辅佐朝政，也可以外出镇守一方，道理是一样的。侍中、司空齐王司马攸，辅佐我登上帝位，为朝廷操劳，现在任命他为大司马、都督青州诸军事，侍中职位不变，同时增加尊崇的礼仪，主管官员按照旧制详细办理。”又任命汝南王司马亮为太尉、录尚书事、领太子太傅，光禄大夫山涛为司徒，尚书令卫瓘为司空。
征东大将军王浑上书说：“司马攸和陛下至亲，又有高尚品德，和周公一样，应该留在朝廷辅佐，参与政事。现在让他去封国，只给他都督的虚衔，却没有实际掌管军事、治理地方的权力，这损害了兄弟间深厚的情义，恐怕也不符合陛下追念先帝和文明太后对待司马攸的心意。如果担心因为是同姓就过分宠信会引发叛乱，可汉朝的吴、楚七国之乱，吕氏、霍氏、王氏专权，乱事的主谋不都是异姓吗？纵观古今，只要事情涉及关键利益，没有不造成危害的，所以只能任用正直忠诚的人。要是总用猜疑的心思看人，就算是亲人也会被怀疑，那关系疏远的人，又怎么能保证忠诚呢？我认为太子太保这个职位空缺，应该把司马攸留下来担任，让他和汝南王司马亮、杨珧一起处理朝政。三人地位相同，足以相互制衡，既不会出现权力失衡的情况，又能体现亲近亲人、仁爱庇护的恩德，这是最好的办法了。”扶风王司马骏、光禄大夫李憙、中护军羊琇、侍中王济、甄德也都极力劝谏，但武帝一概不听。王济让妻子常山公主和甄德的妻子长广公主一起入宫，磕头哭求武帝留下司马攸。武帝大怒，对侍中王戎说：“我们兄弟是至亲，现在让齐王出京，这是我的家事，甄德、王济却接连派他们的妻子来哭哭啼啼！”于是把王济调出京城任国子祭酒，甄德任大鸿胪。羊琇和北军中候成粲谋划去见杨珧，准备亲手杀了他。杨珧得知消息后，称病不出，还暗示有关部门弹劾羊琇，羊琇因此被贬为太仆。他又愤又怨，最后发病去世。李憙也因为年老辞官，在家中去世。李憙在朝廷任职时，对姻亲故旧，会和他们分享衣食，但从来不会利用职权为他们谋取官职，大家都因此称赞他。
这一年，散骑常侍薛莹去世。有人问吴郡的陆喜：“薛莹在吴国士人里能排第一吗？”陆喜说：“薛莹顶多排四五名，怎么能算第一！在孙皓那样无道的统治下，吴国士人里，隐藏才能、不出来做官的，是第一等；避开高位、甘居卑职，只为谋生的，是第二等；刚正不阿、一心为国、坚持正义不畏惧的，是第三等；能审时度势，时常提出有益建议的，是第四等；温和恭敬、做事谨慎，不谄媚奉承的，是第五等。再往下就不值得说了。所以那些第一等的士人大多隐居，远离灾祸；中等的士人有声望地位，却容易招来祸端。看看薛莹的一生行事，又怎么能排第一呢！”
太康四年（公元283年）春正月甲申日，晋武帝任命尚书右仆射魏舒为左仆射，下邳王司马晃为右仆射。司马晃是司马孚的儿子。
戊午日，新沓康伯山涛去世。
武帝让太常寺商议给齐王司马攸增加赏赐的规格。博士庾旉、太叔广、刘暾、缪蔚、郭颐、秦秀、傅珍上表说：“从前周朝选拔有德之人辅佐王室，周公、康叔、聃季都入朝做三公，这说明辅佐朝廷的责任重大，镇守地方的职位相对次要。汉朝的诸王侯，地位在丞相、三公之上，入朝辅佐朝政的，会兼任其他官职，去封国的，也不会再用三公的虚衔来表示恩宠。现在如果齐王贤能，就不该以陛下同母弟弟的尊贵身份，去担任普通诸侯的职务；如果他不贤能，就不该给他大片封地，在东海建国。按照古礼，三公没有具体职务，只是参与讨论治国之道，没听说让他们承担地方重任的。当年周宣王为解燃眉之急，才命令召穆公去征伐淮夷，所以《诗经》说‘徐方不回，王曰旋归’，意思是宰相不能长期在外。如今天下太平，四海归一，陛下应该经常召见三公，和他们讨论治国安邦的大计，现在却把齐王外派到两千里外的地方，这违背了旧制。”庾旉是庾纯的儿子，刘暾是刘毅的儿子。庾旉写好奏表草稿后，先给父亲庾纯看，庾纯没有阻止。
这份奏表经过太常郑默、博士祭酒曹志时，曹志悲伤地感叹：“有这么出色的才能，又是皇室至亲，却不能留在朝廷巩固根本、辅助教化，反而要远赴海边！晋朝的兴盛，恐怕危险了！”于是上奏说：“古代辅佐王室的，同姓的有周公，异姓的有太公，他们都在朝廷任职，死后五代子孙还能归葬周地。到周朝衰落时，就算有五霸相继兴起，又怎么能和周公、召公治理时相比呢！自从伏羲以来，天下怎么可能被一个家族独自占有！只有秉持公正之心，和天下人共享利益，国家才能长治久安。所以秦朝、曹魏想独揽大权，结果两代就灭亡了；周朝、汉朝能和宗室、大臣分享利益，让亲近和疏远的人都能发挥作用，这就是历史的明证。我认为应该采纳博士们的建议。”武帝看了勃然大怒：“曹志都不明白我的心思，更何况天下人！”还说：“博士们不回答我问的问题，却答非所问，胡乱发表奇谈怪论。”下令有关部门罢免郑默的官职。接着尚书朱整、褚等人上奏：“曹志等人越权行事、擅离职守，迷惑朝廷，美化邪说，还假托直言不讳，请求把曹志等人交给廷尉治罪。”武帝下诏免去曹志的官职，让他以公爵身份回家，其他人都交给廷尉治罪。
庾纯主动到廷尉那里自首，说：“庾旉把奏议草稿给我看过，我没多想就听之任之了。”晋武帝下诏免去庾纯的罪。廷尉刘颂上奏，认为庾旉等人犯了大不敬之罪，应当判处死刑，在闹市执行。尚书们也奏请批准廷尉行刑，可尚书夏侯骏却站出来反对：“朝廷设立八座大臣（尚书令、左右仆射及五曹尚书），就是要在这种关键时刻发挥作用。”左仆射下邳王司马晃也支持夏侯骏的意见。这份奏议在宫中搁置了七天，武帝才下诏：“庾旉是奏议主谋，本应斩首，但因为他家人自首，所以庾旉、太叔广等七人都免去死罪，不过要开除官籍。”
二月，武帝下诏把济南郡划给齐国。己丑日，封齐王司马攸的儿子长乐亭侯司马寔为北海王，还赐予司马攸丰厚的器物、典策，允许他使用天子规格的轩辕之乐、六佾之舞，以及黄钺、朝车，连皇帝备用的副车也供他使用。
三月辛丑初一，发生日食。司马攸又气又恨，生了重病，他请求去守护太后的陵墓，武帝不答应，还派御医去诊断。这些御医为了迎合武帝，都说司马攸没病。河南尹向雄进谏：“陛下的子弟虽然不少，但有德行声望的却不多。齐王留在京城，对国家好处很多，陛下不能不考虑啊！”武帝根本不听，向雄又气又急，很快去世。司马攸病情越来越重，武帝却还在催他出发去封国。司马攸强撑着病体入宫辞别，他一向注重仪表，即便病得很重，也努力保持举止如常，这让武帝更加怀疑他没病。司马攸出宫几天后，就吐血而死。武帝去吊丧时，司马攸的儿子司马冏边哭边跳，控诉父亲的病被御医误诊。武帝下令立刻处死御医，让司马冏继承司马攸的爵位。
其实一开始，武帝很疼爱司马攸，只是被荀勖、冯紞等人挑拨，为了身后事考虑，才把他外派。司马攸死后，武帝哭得停不下来。冯紞在一旁说：“齐王名不副实，却深受天下人拥戴，现在他自己去世，这是国家的福气，陛下何必这么伤心！”武帝这才擦干眼泪。还下诏，司马攸的丧礼按照安平献王的规格办理。司马攸平时言行都严守礼制，很少犯错，就连武帝对他也又敬重又忌惮，每次和他相处，都得反复斟酌才敢说话。
这年夏天五月己亥日，琅邪武王司马伷去世。冬天十一月，任命尚书左仆射魏舒为司徒。河南以及荆州、扬州等六个州发大水。归命侯孙皓也在这一年去世。鲜卑族的慕容涉归去世后，他的弟弟慕容删篡位，还想杀掉慕容涉归的儿子慕容廆，慕容廆只好逃到辽东徐郁家里躲起来。
太康五年（公元284年）春天正月己亥日，武库的井里出现两条青龙，武帝去看了之后很高兴，百官都准备庆贺。尚书左仆射刘毅却上表说：“以前夏朝时龙降临宫廷，最后给周朝带来灾祸。《易经》里说‘潜龙勿用，阳在下也’，查了以前的典章制度，没有庆贺龙出现的礼节。”武帝这才打消庆贺的念头。
当初，陈群认为吏部没办法全面考察天下人才，就建议让郡国各自设置中正官，州里设大中正官，都由在朝廷任职、德才兼备的本地人担任，让他们把人才评定为九个等级。如果有人言行表现好就提升等级，品德有缺失就降低等级，吏部根据这个来任命百官。可时间一长，很多中正官不称职，各种弊端越来越多。刘毅上疏说：“现在的中正官制度问题太大了！他们评定等级全凭个人喜好，掌握着别人的荣辱，等于夺走了皇帝的权威。而且他们不用为评定结果负责，也不怕别人告发，于是想尽办法谋取私利，导致廉洁谦让的风气消失，争权夺利、互相攻讦成了常态，我都为朝廷感到羞耻！这个制度至少有八大弊端：一是评定等级看势力强弱，是非判断随个人兴衰，同一个人，十天内等级可能就变了，结果上品都是世家子弟，寒门子弟根本没机会；二是州都本应公正权威，现在却选了不称职的人，搞得州里议论纷纷，大臣间矛盾重重；三是原本按才德评定等级，现在却优劣颠倒；四是中正官权力太大却没有监督，被冤枉的人投诉无门；五是一个州几千人，很多人四处漂泊，中正官根本不了解他们，评定全靠道听途说，很容易有失偏颇；六是真正有政绩的人等级低，没本事的人却能高升，这是打击实干、鼓励虚名；七是只按等级用人，不考虑个人才能是否适合职位；八是等级评定不公开优缺点，全凭个人好恶，大家自然不再注重德行，一门心思搞人际关系。所以我说，中正官制度就是滋生奸邪的温床，九品中正制有八大危害，从古到今，没有比这更糟糕的制度了！应该废除中正官和九品中正制，建立新制度。”
太尉汝南王司马亮、司空卫瓘也上疏说：“曹魏刚经历战乱，人口流动大，很难考察人才，才设立九品中正制，只是权宜之计。现在天下统一，应该废除这个制度，实行土断（以居住地为准确定户籍），让人才选拔回归乡里评议，这样就能平息争名逐利的风气。”始平王文学江夏人李重也建议：“废除九品中正制后，应该先允许人口流动，让大家自由迁徙，这样土断制就能顺利推行了。”虽然武帝觉得这些建议有道理，但最终还是没有改革。
这一年冬天十二月庚午日，朝廷大赦天下。
闰月，当阳成侯杜预去世。塞外匈奴胡太阿厚率领两万九千三百人的部落前来归降，武帝把他们安置在塞内西河地区。还撤销宁州，并入益州，设置南夷校尉来管理当地少数民族。
太康六年（公元285年）正月，尚书左仆射刘毅退休，不久后去世。
戊辰日，王浑担任尚书左仆射，他儿子王济任侍中。王浑的下属办事不力，王济依法处置，却遭到堂兄王佑的诋毁，说他不孝顺父亲，武帝因此疏远了王济，后来王济还因事被免官。王济生性豪爽奢侈，武帝曾问侍中和峤：“我先骂王济一顿，再给他官做，怎么样？”和峤说：“王济性格直爽，恐怕不会低头。”武帝召来王济狠狠批评，然后问：“知道错了吗？”王济回答：“‘尺布斗粟’的民谣（讥讽兄弟不和），我一直为陛下感到羞愧。别人能让亲人疏远，我却不能让亲人和睦，这才是我觉得对不起陛下的地方。”武帝听了无话可说。这一年，青州、梁州、幽州、冀州发生旱灾。八月丙戌初一，又发生日食。冬天十二月庚子日，襄阳武侯王濬去世。鲜卑族这边，慕容删被部下杀死，众人又迎接慕容廆为主。慕容廆想讨伐宇文部，朝廷不答应，他一怒之下侵犯辽西，烧杀抢掠。武帝派幽州军队讨伐，在肥如交战，慕容廆大败，但此后他每年都侵犯边境，还向东攻打扶馀，扶馀王依虑自杀，他的子弟逃到沃沮，慕容廆摧毁扶馀城池，掳走一万多人。
太康七年（公元286年）正月甲寅初一，发生日食。魏舒称病，坚决请求退休，最后以剧阳子的身份离职。魏舒做事向来先做后说，连他退休都没人提前知道。卫瓘给他写信调侃：“每次和你讨论退休的事，都没结果，真是‘瞻之在前，忽焉在后’啊。”夏天，慕容廆又侵犯辽东，原扶馀王依虑的儿子依罗想复国，向东夷校尉何龛求援，何龛派督护贾沈带兵护送。慕容廆派部将孙丁半路拦截，贾沈奋力作战，斩杀孙丁，帮助依罗恢复了扶馀国。秋天，匈奴胡都大博和萎莎胡各自率领十万多人口到雍州归降。九月戊寅日，扶风武王司马骏去世。冬天十一月壬子日，任命陇西王司马泰都督关中诸军事，司马泰是宣帝司马懿弟弟司马馗的儿子。这一年，鲜卑族拓跋悉鹿去世，他的弟弟拓跋绰继位。
太康八年（公元287年）正月戊申初一，发生日食。
太庙的大殿塌陷，秋天九月开始重建，动用了六万人。这一年，匈奴都督大豆得一育鞠等人又率领一万一千五百人的部落前来归降。
太康九年（公元288年）正月壬申初一，发生日食。
夏天六月庚子初一，再次发生日食，三十三个郡国遭遇大旱。
秋天八月壬子日，流星像雨一样坠落，还发生了地震。