司马曜登基前后，东晋王朝正笼罩在权臣桓温的谋篡阴影中。当时，兵败枋头的北伐名将桓温为重新树立威望，威逼褚太后废掉了海西公司马奕，并立会稽王司马昱为帝。与此同时，桓温对东晋朝政也进行了一次大洗牌，好习武事的武陵王司马晞被流放、名噪一时的大族庾氏和殷氏被诛戮殆尽。摄于桓温的权势，担惊受怕的司马昱常惧被废。372年，在位不到两年的简文帝司马昱便忧郁而死。群臣知道桓温的野心，对是否拥立太子司马曜继位一事犹豫不决。这时，尚书仆射王彪之一锤定音，坚决主张按制度行事。于是，司马曜遂得继位。桓温本以为简文帝会将帝位禅让于己，最不济也会让自己如周公行居摄之例。如今二者均不能如愿，他对此十分愤愤不平。但由于桓温老病，已经无法举兵夺位，只能陈兵姑孰，欲以武力威胁东晋朝廷加其九锡。也许是司马曜福星高照，在谢安等人的故意拖延下，桓温终于在九个月后病重身死。于是，司马曜渡过了继位以来的第一场危机。这时，司马曜仅11岁。
桓温虽死，但树大根深的桓氏家族却仍然有着非同寻常的影响力。史载，“庚戌，加右将军、荆州刺史桓豁征西将军、督荆、杨、雍、交、广五州诸军事。桓冲为中军将军、都督扬、豫、江三州军事、扬、豫二州刺史，镇故孰。竟陵太守桓石秀为宁远将军、江州刺史、镇寻阳。石秀，豁之子也。”好在前秦正对益州、荆州以及淮南用兵，桓氏家族的注意力受到了极大的牵制。因此，东晋得到了一段宝贵的调整时间。截止到383年淝水之战爆发，以谢安为首的东晋高层不仅稳定了国内政局，还训练了一支由中央政府直接掌控的精锐部队——北府兵。最终，也正是这支新建的精锐部队击垮+了前秦天王苻坚一统华夏的美梦。
淝水之战的胜利不仅延续了东晋的国祚，还让东晋政局发生了极其微妙的变化。一者桓氏家族的掌舵人桓冲于384年病死，东晋王朝一直存在的荆、扬之争顿时化解;二者谢安的权柄被孝武帝委派的胞弟司马道子分解，加之谢安本人固有的名士情结让他也不愿争权夺利。387年，退就会稽内史的一代名相谢安病逝。随即，他所节制的徐、青、兖三州也先后被东晋皇族徐州刺史司马道子和谯王青、兖二州刺史司马恬瓜分。至此，司马曜收回了皇权，完成了东晋八代皇帝都未能实现的梦想。彼时，司马曜25岁。
淝水之战后，前秦分裂
如此大好局势，执掌权柄的司马曜并未对北方发起大规模的军事行动。相反，东晋王朝再次陷入内争的怪圈中。谢安之后，皇族司马道子执政。随着司马道子权势日盛，司马曜开始有意识地抑制司马道子的专权，这对亲兄弟的关系开始变得十分紧张。因此，孝武帝之死被蒙上了一层扑朔迷离的外衣。
史料记载，孝武帝生性嗜酒，常常“流连内殿，醒治既少，外人罕得进见”。一次，司马曜和最宠爱的妃嫔张贵人宴饮。酒酣之际，孝武帝对年近三十的张贵人说了一句玩笑话，“汝以年亦当废矣，吾意更属少者。”(按照你的年龄应该被废了，哪天就找个年轻貌美的姑娘顶替你)张贵人听后妒火中烧，而烂醉如泥的孝武帝却毫无察觉。思前想后，张贵人遂起杀心。当晚，张贵人故意灌醉司马曜身边的宦官，然后召来宫女趁孝武帝熟睡之际，用被子将其活活捂死。第二天，张贵人对外谎称孝武帝死于梦魇。奇怪的是，东晋朝廷对司马曜的突然去世毫无反应。史载，“时太子暗弱，会稽王司马道子昏荒，遂不复推问”。