陈霸先出身低微，担任过里司(相当于今天的村长)，后到建康(今南京)作过油库的库吏，可见陈霸先年青时之艰难，其入仕也是从最底层做起的。约534年(梁大同初年)，新喻侯萧映(梁武帝萧衍的侄子)为吴兴太守，很看重陈霸先，受萧映赏识，随任为广州府中直兵参军，不久出任西江督护、高要太守。
556年(绍泰二年)8月，萧方智诏陈霸先食安吉、武康二县，合五千户，改绍泰二年为太平元年。不久，侯安都进抵武昌，王琳部将樊猛弃城退走。当初梁朝任命司空王琳为湘、郢二州的刺史。陈霸先立萧方智为帝后，王琳一直不服。正好北周将梁元帝的灵柩和诸将家属一千多人送还给王琳。王琳自为得天助，引兵直取建康(今江苏南京)，侯瑱率军出芜湖尾其后。王琳用火攻，因风向反烧己船。侯瑱以拍舰击王舰，又以蒙冲小船冲撞王舰，并溶铁洒之，王琳军大败，士兵溺死无数。
陈霸先除掉王僧辩后，成为梁末权臣。不久，吴兴、义兴、吴郡三郡一齐起兵抗陈。这三郡几乎包括了京口东南的整个江南地区，声势相连，形势十分严峻。吴兴是陈霸先的家乡，得知杜龛反叛，他立马使侄子陈蒨回故里自卫。但是陈蒨手下只有几百兵，要对付的却是杜龛的五千精兵。陈霸先见处境危险，赶紧派周文育率军东征，但一时又打不下来，接近不了吴兴。陈霸先只得留侯安都守建康，自己亲自领兵平叛。
就在陈霸先离开建康之时，谯、秦二州刺史徐嗣徽和南豫州刺史任约内勾结北齐，出兵偷袭并攻占健康。陈霸先收复健康这一战打得非常艰苦。最后，陈军一鼓作气，凭借连胜的锐气，猛攻石头城。守城齐将柳达摩要求讲和。双方议和。柳达摩率军退出石头城，撤回北齐。北齐此番攻梁失败，柳达摩一无所获，还损失了大批兵粮和马匹，被齐文宣帝高洋斩杀泄愤。
556年三月，北齐再犯建康。陈霸先偷袭齐军粮道，士气大挫。六月，齐军是从建康西南方面进军，逐渐到达城南、城东南，折而从城东向北迂回，到达城东北、城北。齐军采取包围战术，进展相当顺利，作战初期一直占据主动。建康被围，对外联络和粮道都告中断。
不过此时正是南方雨季，使基本是北人的齐军陷入困境。不久，天气转晴，陈霸先准备出战。正好陈蒨此时送到3000斛米、1000只鸭。陈霸先立即大犒全军，将粮食全部煮掉，发给每人一包用荷叶裹的米饭，中间还夹上数块鸭肉，让将士们饱餐一顿，再让将士们养精聚锐。
陈霸先亲率军队，利用熟悉地形的优势，率部迂回到敌后，夹击敌军。在雨季之中大受其苦的齐军前后受敌，士气低落，四处溃逃。齐军将士逃到江边，相互践踏、沉溺而死的不计其数，并俘虏了北齐的四十六名将领，只有任约等几个人逃得性命。
梁朝因此封陈霸先为太傅，加赐黄钺、殊礼，进见赞拜时不用称名。不久，又委任为相国，总领朝政，封为陈公，备九锡，陈国设置百官。之后，梁敬帝把皇位禅让给了陈王。557年(永定元年)十月初十，陈霸先在南郊即皇帝位，改年号为永定。陈霸先登基不久，广州萧勃起兵，次年王琳在夏口(今湖北武汉)拥立萧庄为帝;北周又夺取了巴陵、湘州。陈朝一直只能保有长江中下游(还不包括江陵地区)的江南地区，成为南朝时期辖境最小的一个朝代。