创立于1874年的日本士官学校系明治维新的产物，日本陆军中的各级军官，无论将军还是少尉，几乎都在这里学习过。除就读预备学校及联队实习外，士官学校的学制通常为一年，其主要课程包括：战术学、战史、军制学、兵器学、射击学、筑城学、交通学、测图学等。1945年战败投降后，日本士官学校被撤销，期间共开办61期，培养军官36900名，其中有6人担任过内阁首相。
中国第一批留日士官生于1898年底到达日本后，先进入成城学校(日本士官学校的预备学校)学习两年，之后按各自的科目(步兵科、骑兵科、炮兵科、工兵科)进入日本陆军各联队实习(分别为日本近卫步兵第四联队、日本近卫野战炮兵联队、日本近卫骑兵联队、日本近卫工兵联队)。经半年的入伍锻炼后，学员才能进入士官学校。一年的学习结束后，首批中国士官生于1902年毕业，其中包括了吴禄贞、张绍曾等知名人物。
按清廷的规定，留日士官生须由官方保送，官费就读，但其中也有例外，如辛亥革命及护国战争中的风云人物、第3期学员蔡锷，他最初系梁启超的私人关系进入成城学校自费就读，后进入士官学校后方转为官费。值得一提的是，第3期也是名人最多的一期，如被称为“士官三杰”的蒋方震(蒋百里)、张孝准与蔡锷，而日方学员则有冈村宁次、土肥原贤二、板垣征四郎等人，他们可算是同学关系。据说，蒋方震在毕业考试中夺得第一名而获得日本天皇所赐军刀，日方感到颜面尽失而决定从第四期开始，中日学员分开授课。当然，这只是一种说法，不过从第4期开始，日方为中国留日士官生专门设立了一所预备学校即振武学校，其中的主要原因恐怕是中国留日士官生的数量大为增加的缘故。
辛亥革命爆发前，共有8期留日士官生毕业回国，第九期于1910年12月进入日本士官学校，后因革命爆发而退学。另外，还有一批在振武学校就读或已进入日本军队实习的学员也大多回国，蒋介石即为其中之一。1908年，蒋介石(时名蒋志清)进入振武学校，两年后入高田陆军第十三师团野炮兵第十九联队为士官候补生，据其日记所载，“初入联队，已在冬季，雪深丈余，朝操刷马，夕归刷鞋，劳苦一如新兵。……日本兵营阶级之严，待下之凶，营内之清洁整齐，余皆于此见之”。正常的话，蒋介石应随后升入士官学校，但后因回国参加革命而失去了这个机会。从这个意义上来说，蒋介石只能算半个“士官生”。
编练新军是清末新政的重中之重，而新军中严重缺乏中上级的军事干部，留日士官生由此受到极大的重视，这些人回国后立刻成为各省督抚争相延揽的对象，可谓是军途灿烂、官运亨通。以第一期学员陈其采为例(即陈其美之三弟，陈果夫、陈立夫之三叔)，其在1902年毕业回国后先在湖南等地编练新军，后赴京担任军谘府(相当于参谋本部)第三厅厅长(正参领，相当于上校级别)，时年不过30出头。
相比而言，前几期的留日士官生往往占据军中高位，一些人在短短几年间就做上了标统(团长)、协统(旅长)甚至统制(师长)，如一期生吴禄贞、张绍曾分别为第六镇统制、第二十镇统制;二期生良弼为禁卫军协统;三期生蓝天蔚、蔡锷、潘矩楹分别为第二混成协协统、第十九镇协统及第二十镇协统。至于任标统的就更多了，如第六期的阎锡山、罗佩金等等。
吊诡的是，尽管留日士官生回国后待遇优渥，但这些人最终却走到了清廷的反面。原来，很多留日士官生在日本期间即接触了革命思想，一些人甚至加入了革命组织同盟会。辛亥革命中，这些人也成为了领导各省独立的风云人物。据统计，民国初年以革命起家而担任各省都督的留日士官生有8人之多，包括江西都督李烈钧、云南都督蔡锷、陕西都督张凤翙、山西都督阎锡山、四川都督尹昌衡及胡景伊、贵州都督杨荩诚及唐继尧。当时这些人大多三十出头甚至未满三十，可谓是风云际会，乘乱而起，一时独领风骚。但是，除唐继尧及阎锡山维持了较长时间的统治外，这些乱世枭雄在民国后大多因年龄及阅历等方面的欠缺而昙花一现，有些人甚至在军阀混战中死于非命。
大体上说，日本士官学校只培养中下级军官，与之相衔接的日本陆军大学则不招收中国学员。因此，除个别人外(如民国后担任保定军校校长的蒋百里，但他后来又赴德国留学)，留日士官生在军事上未必出色，当时的北洋军就很少选用留日士官生。机缘巧合的是，这些分派到南方新军的士官生们正好成了清廷的掘墓人。1914年后，日本士官学校继续接受中国留学生，到1931年“九一八”事变为止，共开办到第22期。这批士官生虽不能与清末的前辈们相提并论，但其中也出了一些名人，如张群、何应钦、朱绍良、钱大钧、汤恩伯等。民国后，在保定系及黄埔系的挤压下，留日士官生也就逐渐淡出了近代中国的历史舞台。