晋悼公去世后，晋平公即位，第二年晋平公就借着悼公所建立起来的晋国霸业的余威，在湨梁(今山西济源北)大会诸侯，鲁襄公、宋平公、郑简公等十国君主都到会，而齐国却指派大夫高厚与会。晋平公先是要求各国归还相互侵夺的土地，然后在温地宴请了各国诸侯。
晋国霸业
就在此次会盟的同一年，晋国出兵伐楚以报复楚国伐宋。晋军与楚军双方在湛阪展开大战，楚公子格所率领的楚军战败，被晋军一直追赶至楚国的方城(今河南方城东北)。晋国再一次显示了其非凡的实力。
因为此前齐国大夫在湨梁会盟中对晋国的出言不逊以及随后的齐国伐鲁行为，鲁襄公十八年(公元前555年)，晋国、鲁国、宋国、卫国等国军队联合起来开始进攻齐国，齐灵公则组织齐军在平阴(今山东平阴东北)阻击。由于此地无险可守，齐军大败，死伤不少。
晋军元帅范匄对齐灵公使用了疑兵之计，齐灵公听到晋国有大军压境消息，又登城看到了晋人的“声势”之后，十分惊恐，便率齐军趁夜色逃离平阴。晋军乘胜追击，先后攻下了齐国的京兹、邿邑(今山东平阴西)，并围住了卢邑(今山东长清西南)。随后，晋军与鲁军转而又进攻临沂，并把临沂团团包围。齐灵公担心齐都临淄失守，准备逃亡邮棠，但最终被太子光和大夫郭荣拦住。此后，晋军又在齐国境内大肆收掠一番之后回国。
晋国组织各国诸侯结盟
第二年的春天，晋国又组织各国诸侯在祝柯(今山东长清东北)结盟，而结盟的誓词就是“大国不要侵略小国”，尤指齐国入侵鲁国之事。在此会上，晋人还惩罚了邾人，把邾国漷水以北的土地划给了鲁国，而原因就是邾人在齐国伐鲁时做了
帮凶。在晋军归国途中，路过鲁国的时候，鲁襄公特地宴请了晋国的六卿。鲁襄公二十年(公元前553年)，晋国、齐国、鲁国等十三个诸侯国在卫国的澶渊(今河南濮阳西北)举行盟约，至此齐国与晋国才最终修好，双方的斗争也暂时告一段落。
晋平公执政的前期，晋国还是具有相当强的实力，在各诸侯中仍能称雄称霸。然而，晋国在此次对齐国的胜利之后，称霸的形势渐渐发生了变化，晋国国内的斗争使得晋国再无对外大规模征战的野心，而这一点在晋平公的后期就已显现出来。同时，晋平公所做的一些不得人心的事情，更加速了晋国的衰落。
晋平公执政
晋平公的母亲是杞国人，因而平公借晋国的霸主之势常常照顾杞国，甚至号召诸侯为杞国修筑城墙。鲁襄公二十九年(公元前544年)，晋平公让大夫荀盈也就是知悼子召集各国诸侯大夫商议给杞国修筑城墙之事，但是杞国是小国，其他诸侯国谁也不想做这种白白付出人力物力却收不到回报的事。
于是诸侯大夫们纷纷对晋平公这种假公济私的行为进行了强烈的抨击，郑子叔还给出了一个冠冕堂皇的拒绝理由：现在周王室衰微，晋国是姬姓诸侯，却反而去维护夏朝后裔的杞国，并质问晋国：“其弃诸姬，亦可知也已，诸姬是弃，其谁归之?”此后，晋国在各诸侯国中的微信大大降低，而晋平公让鲁国归还杞国的土地，更激发了鲁国对晋的不满。
晋平公娶姬妾
几年之后，晋平公娶了齐国的女子少姜为姬妾，齐国大夫陈无宇护送少姜到了晋国。少姜到了晋国之后，受到了晋平公的宠爱，但由于陈无宇不是卿，由他来送亲不符合礼制，于是晋平公就对陈无宇进行责难，并把他抓了起来。少姜为陈无宇向晋平公求情，但晋平公并不理会，没有放人。直到叔向劝说道：“君行已颇，何以为盟主?”晋平公才略有收敛，放了陈无宇。少姜去世后，各国诸侯都派来使臣为晋平公的宠姬送葬，晋国大夫都感到这样做太过分了。
在少姜去世的第二年，齐国派晏婴去晋国请求再送一女给晋平公，以补少姜之缺。晏婴来到晋国处理完聘礼之事后，受到晋国大臣叔向的宴请。两人酒宴之间就谈起了两国的国情，晏婴说齐国现在是：“公弃其民，而归于陈氏。”叔向说晋国现在则是：“政在家门，民无所依，君日不悛，以乐慆忧。公室之卑，其何日之有?”
晋平公的腐化堕落
晏婴说出了齐国田氏的崛起，国家也将要归于田氏;叔向则说出了晋平公的腐化堕落以及卿大夫势力的强盛，晋国的公室已趋于没落。后来，晋国的卿大夫荀盈去世，而晋平公只顾饮酒作乐，佯装不知。虽然晋平公想借此机另立亲信，但迫于卿族大夫们的强大势力，只能认命荀盈之子荀跞为卿。
此时的晋国君主已经不能左右国内的大事，而在处理诸侯之间的事务上也开始力不从心。鲁昭公十一年(公元前531年)，楚灵王杀了蔡灵侯，并发兵围蔡。晋国邀集各国诸侯大夫相会，共谋救蔡之策，但始终不敢出兵与楚交锋。最后，晋国只派了使臣向楚国请求饶恕蔡国，然而楚灵王并不答应，并攻下了蔡国，杀了隐太子。
同一年，晋平公去世，晋昭公即位。晋国已经到了分崩离析的边缘，而其称霸的局面也日趋衰微。