陈庆之的勇名天下皆知的，是在大通年间（公元五二七年～五二九年）的事情，也就是陈庆之四十四到四十六岁的时期。当时魏的朝廷因帝位而产生了内纷，重臣尔朱荣领兵占据洛阳，杀了幼小的皇帝和皇太后独揽权势。而皇族之一的北海王元颢就因此而亡命至梁。
当时的梁主萧衍决定出手援助了北海王，命陈庆之护卫北海王回到洛阳。其实萧衍的本意也就是命令他攻击洛阳，并让北海王即帝位。陈庆之虽对萧衍的命令觉得无谋，但最后还是接受了。
于是历史上最最奇迹战争出现了，一个传说里“赵云”式的猛将产生了。陈庆之所带的兵力是多少嘛？是七千骑！而当时魏境内兵力约有近百万之众，以七千对百万，结果想都不用想，但陈庆之作到了！从梁边境开始，在魏的领土内进击一百四十日，其间激战四十七回，水、陆、山、城市攻坚作战全部都获得胜利，共攻陷了三十二座城池，击灭十万余兵力，击败退约三十万兵力！造成了洛阳极大的震撼。
“陈庆之来了！”这句话形成了魏朝廷的恐慌，连军队都放弃了洛阳的守卫逃走，更别说是皇帝和尔朱荣了，洛阳就这样变成一个空城。更另人吃惊的是陈庆之占领了洛阳后所率的七千骑几乎没有损伤！以至于当时就有人评论“以七千兵即能陷落洛阳的人，古今仅此一人”。陈庆之占领洛阳达六十五日，七千兵士整然地退出洛阳。自认为胜利的尔朱荣亲领了三十万大军追击，然而又令人不敢置信地，十一次的会战都为陈庆之所击退，直到梁军渡过一条河后，因为涨水淹至桥上，尔朱荣才放弃追击，不过这次不算是完胜，到达健康（南京）时，七千的兵数灭了一半，但这也相当的完美了。
之后陈庆之依然为梁战斗着。比如造成了天下大乱的侯景（也就是侯景之乱，就曾以北朝将军的身份领了七万兵力与陈庆之的一万梁军作战而遭击溃，只剩他一个人逃回。而陈庆之至死为止也从未败过！当他担任予州刺史的时候，由于农作歉收。有许多人饿死，他除了打开官仓，将储存的米麦分配给民众外，还从丰收之处急运米粮前来。予州的人民替这位将他们从饥饿之中拯救出来的刺史建立了祠堂，还称呼他为“仁威将军”。