范仲淹虽为一代文士，却从小就喜欢谈论军事。宋朝时，西北党项族对宋是时附时反。到了该族首领元昊掌权时，他就不再甘心臣服于大宋王朝了。宋仁宗康定元年(1040)，元昊起兵造反。范仲淹再次被召入朝，恢复了他以前担任过的天章阁待制。若仅只是天章阁待制，那么这是个闲官。事实上，这次召范仲淹入朝，就是要利用他的军事才能对付元昊，因此同时让他兼知永州军，后来又改任陕西都转运使。他得知延州(今陕西延安)一带关防失守，便自告奋勇去守边，宋仁宗就委他为户部郎中兼知延州。范仲淹未到任前，此地按官阶高低决定带兵之多少，如总管领兵一万，钤辖领兵五千，都监领兵三千。敌人来犯则官小者先带兵迎敌，至于这迎敌的将官是否胜任，那是不管的。针对这不合理的情况，范仲淹明确地指出：选择迎敌的将领不考虑他们的本事，只按官职大小来排定出兵的先后，这就是打败仗的原因。他到任后，将州兵集中起来，共得一万八千人，再一分为六，每位将领带兵三千加以训练。
敌人来犯，则根据进犯之敌的多少派兵迎敌。第二年的正月间，皇帝下诏要范仲淹主动出击，范仲淹没有盲从，而是依据延州的现实情况，提出了正确的应对之策。范仲淹向皇帝报告说：正月间正是塞外十分寒冷的时候，大雪茫茫，此时出兵，我们的军队难以隐蔽，容易暴露。等到春暖之时，这个时候敌人马瘦人饥，我们出兵容易取胜。他进一步献策道：鄜州(今陕西富县)、延州靠近西夏，是羌人必由之路。希望能暂时按兵不动，让他以恩信对之招抚，若贸然动兵，已和羌人建立的交往可能会断绝，那么，这一片地方的安定就会遥遥无期了。他建议可先攻取绥、宥等地，占据要害之处，屯兵营田，如此，茶山、横山等地的老百姓就会扶老携幼来归附了。宋仁宗听取了他的这些建议。果然，当地羌、汉各族百姓都安定下来了。
范仲淹为将，号令明白，赏罚分明，爱抚士卒。边境有警，他和时任枢密副使的富弼一道领兵御敌。皇上赏其黄金百两。范仲淹并没有将这笔财富占为己有，而是全部分给了随他出征的将士。
在军事上，范仲淹与另一文人军事家韩琦齐名，时称“韩范”。但在与敌对阵时，范仲淹能审时度势，根据实际情况决定用兵策略。一次他和韩琦一道领兵到了前线，韩琦决定立即分兵五路进攻，范仲淹驻守庆州城，认为不应立即进攻。那时任秦州通判兼经略判官的尹洙奉韩琦之命，到庆州来约范仲淹一道出兵。范仲淹对尹洙说：我军刚打了败仗，怎么能率兵深入呢?以现在敌我双方的实情来看，若立即开战，我军只会战败，因此，现在不是和敌人作战的时候。尹洙听了，叹惜道：您不及韩公啊。韩公说：用兵应当将胜负置之度外。现在看来您处事过于谨慎，这就是您不及韩公的地方啊。范仲淹回答说：大军一动，就关系着千万人的生命，若置胜负于度外，我实在不知道怎么能如此打仗。尹洙说不动范仲淹，只得回去交差。韩琦不听范仲淹的建议，率兵出击，结果遭到元昊的伏击，全师陷没，大将任福战死。韩琦领着残兵败将返回时，那些拦在韩琦马前号啕大哭的阵亡将士的父兄妻儿，就有几千人之多。这些人拿着阵亡者穿过的衣服，烧着冥币哭道：你们跟随招讨使出征，如今招讨使回来了，你们却不幸战死了。你们的魂魄若认识路，能跟着招讨使回来吗?痛哭之声震天动地。韩琦也悲痛流泪难以行进。范仲淹得知长叹道：这种时候，是很难将胜负置之度外的啊!
范仲淹主政过邠州、延州、泾州和庆州四地，这些地方与西北少数民族比邻。因他治理有方，百姓们能安居乐业，因此，他深受这些地方百姓的爱戴。特别是羌人，对他非常尊敬。由于范仲淹是以龙图阁学士身份出任这些地方的行政长官的，羌人便尊称他为“龙图老子”。