黑山军其实说通俗点就是一伙人多势众的山贼。
黑山军又称黑山賊，黄巾叛乱时兴起，盘踞在太行山和燕山一带多年。在黄巾起义被镇压后，黄巾军余党大多投靠黑山军，加上大佬张燕领导有方，黑山军势力急剧扩大，兵马达数十万之众。
黑山军作为山贼常年出动四处打野，人多势众，基本北方势力没人敢惹，甚至曾攻占过北方重镇邺城、常山，打的袁绍都害怕。
说实话当时的山贼能达到这个规模不容易，要知道当时的曹操总共也就数万人马，而黑山军出去打劫一趟据说都是十万之众，不知道老曹当时会不会脸红，混的不如山贼。
当时的黑山军真的是牛，哪里是山贼，简直可以称作是北方霸主了。但是人多也有人多的不好，粮食不够，分配不均，混不下去了。于是黑山军向朝廷请降，朝廷也惹不起张他们，封了头领张燕平难中郎将，张燕的黑山军从此变成了合法的黑社会。不过张燕接受了招安，让很多黑山军散去，势力已不如从前了。
张燕没有以前的势力了，而袁绍势力则越来越大了。袁绍于是联合刚来投靠他的吕布一起夹击张燕，重创了黑山军，黑山军再一次被削弱。
张燕势力大减后，流入山中，不和袁绍硬碰硬，流动作战，骚扰袁绍，袁绍也一直拿他们没办法。
官渡之战后，曹操势力大增，兵发冀州。张燕本来就是和袁绍作对的，敌人的敌人就是朋友，因此他向曹操请降，帮助曹操平袁绍余党。
曹操拜张燕为平北将军，并在张燕的帮助下平定了袁绍的残余势力，一统北方。传奇般的黑山军从这时开始并入了曹操集团，不复存在。