新一军最初由国民革命军新编第三十八师和新编第二十二师组成。新三十八师在国民党军中是一支非同寻常的部队，它的前身是1932年组建的国民政府财政部税警总团，税警总团的装备在国民党军中堪称一流：清一色的美式装备，从枪支、火炮、车辆到电台、电话、望远镜以至罐头食品、蚊帐、被褥，都印有USA标记;部队里里外外，上上下下，除了那身灰布军装和瓷制的青天白日帽徽是中国货外，其余一律是“美国造”。该部队官兵的素质远远高于一般的国民党军，营以上的军官大多是英美军校的留学生，外语说得比中国话还流利，士兵也大都是有文化的学生兵，再加上这支部队薪水高、伙食好、训练有素，因此其战斗力在国民党军中也是首屈一指的。
在淞沪抗战中，税警总团在唐桥站和苏州河刘家宅一带与日军第九、第三师团血战1个多月，随后又担负掩护大军撤退的任务，总共作战达66天，歼灭日军数千人。从此，税警总团这支非正规部队引起了各界人士的注意。不久，宋子文将税警总团改编为缉私总队，任命孙立人为少将总队长，率部进驻湖南长沙。随后，缉私总队又迁到贵州都匀整训。1939年初，缉私总队重新恢复了税警总团的名称，仍由孙立人任总团长，下辖3个团及炮兵、通信兵、工兵、辎重兵等直属部队各1个营。1941年12月，税警总团改编为国民革命军新编第三十八师，编入陆军第六十六军战斗序列，随即参加了中国远征军。
新二十二师是国民党名将廖耀湘麾下的一支能攻善战的部队，成立于1939年1月，编在第五军的序列中。它的作战风格粗犷凶猛，似急风暴雨，如巨斧开山，进攻时，像秋风扫落叶;防守时似虎踞龙盘。无论是打阻击战、追击战、伏击战，还是攻坚战、阵地战、野战，其表现都极为出色。抗战爆发后，新二十二师也并入中国远征军的序列。
1942年10月，蒋介石下令将驻印度的中国远征军新三十八师、新二十二师编为新编第一军，郑洞国为军长，孙立人为新三十八师师长，廖耀湘为新二十二师师长，在兰姆伽换装美械装备，接受美式训练。
印缅战场
美国人在兰姆枷开设了许多军事技术学校，如战车学校、汽车学校、通信学校、工兵学校、指挥学校等等，还有专门的后勤保障学校。所有教官都是美国人，翻译由学生兵担任。在这里，中国官兵分开受训，接受美国西点军校的军事教育。
兰姆枷基地集结了大批由缅北溃退的中国军队，同时，又补充吸收了一批文化水准较高的青年学生，使在这里的中国军队既装备了全新武器，又进行了全套美式训练，还充实了新生力量，其整体素质远高于中国国内同类型的国民党军。中国驻印军队的武器装备和经费开支全部由美国政府提供，其编制为：“每个师3个步兵团，2个炮兵营，工兵、辎重兵、通信兵各1个营，另有卫生队和1个特务连，作战开始配属1个战车营。每团3个步兵营，迫击炮、平射炮各1个连，另有通信连、卫生队和特务排，全团约3000人。每营3个步兵连，1个机炮连。每连3个排，每排3个步兵班，1个轻迫击炮班。总指挥部直属部队计有：炮兵5个团，每团重炮36门。汽车兵团有载重汽车400辆。工兵、化学兵和重迫击炮兵2个团，骡马辎重兵1个团，另有7个战车营，每营坦克、装甲车若干……”
中国士兵在这里扔掉老式“汉阳造”、“中正式”，换上美制“M1汤姆式”冲锋枪，头戴防弹钢盔，配发进攻型手榴弹。每个步兵班配备班用轻机枪若干。同时，步兵在未来作战时，还能得到来自空中的强大火力支援和后勤补给。这样，中国驻印军队在武器装备和机动能力上已经达到当时欧美资本主义发达国家军队的A级水平，步炮比例达到3比2，第一次从武器上压倒了日本人，从而为打败和消灭不可一世的日军奠定了基础。
新一军这支猛虎出山后，遇到的第一个对手是号称“丛林作战之王”的日军第十八师团，在“二虎相斗”中，新一军的雄风表现得淋漓尽致。
1943年10月24日，在缅甸新平洋和于邦大战中，新一军大败日军第十八师团。日军以5倍于新一军的优势兵力，竟然吞不下新一军1个先遣团，日军损兵折将近2000人，这是中国军队首创对日军作战以少胜多的壮举。
从1943年10月到1944年3月，新一军已攻入缅甸境内150余公里，共击毙日军军官60余名，打死打伤日军官兵12000余名，自己伤亡6495人。
1944年4月，在亚洲中南半岛地区的缅甸卡盟、孟拱之战中，新一军歼灭日军第三十三军16100多人，并在危难时刻，解救了被日军打得溃不成军的英军第三师七十七旅。
1944年5月至8月，在80天之久的缅甸密支那攻坚战中，新一军歼敌近4000余人，日军密支那城防司令水上源藏少将切腹自杀。攻克密支那，标志着中、美、英盟军在印缅战场取得了决定性的胜利，日军在缅北的防御体系从此土崩瓦解。在印缅战场与日军交锋，使新一军成长为驰名东西方的“王牌军”。