出身始终是个大问题，使刘裕在贵族中威望不算很高，刘裕又认为晋朝时时都面临着北方的威胁，因此决定北伐!运用了巧妙的军事手法攻陷了南燕之后，第二次北伐的目标是后秦，刘裕意识到后秦的朝政内乱不堪，乃千载难逢的好时机。当时刘裕打算向北魏借路走一下，希望能尽早到达后秦，所谓兵贵神速。不过北魏却害怕他们以借道为名去攻打他们。不仅不借，还派十万士兵监视晋军。虽然借道不成功，可是刘裕仍然按照计划进军。北魏哪里肯，就派出几千名骑兵跟随他们，时不时就去骚扰他们，凡是被水充了去北岸的士兵都被北魏的人给杀了，他们的行为令到晋军的将士特别是刘裕十分不满!根据《资治通鉴·卷第一百一十八》记载：“裕遣军击之，裁登岸则走，退则复来”举兵去攻打他们，他们就走，晋军退走后他们又跟上来，使人不胜其烦，一再拖延晋军的进度。这种种情况就逼迫刘裕创立出伟大的“却月阵”了。
刘裕