南北朝初期仍是世族政治，社会阶层分为世族、齐民编户、依附人及奴隶 。世族拥有大量不需付税的依附人从事生产与作战，影响朝廷的税收。虽然南朝皇帝仍然需要主流世族的拥护，不过也扶持寒门以平衡政治势力，并且在南朝梁时萌芽出科举制度 。南朝世族因为长期安逸而逐渐衰退，在侯景之乱後彻底崩溃。北朝胡族缺乏政治的经验，所以重用汉人世族，引起双方的文化采借，久之形成文化混合，以北魏孝文帝的汉化运动最盛。混合的过程产生激烈的思想冲突、政治斗争或种族冲突，例如六镇民变、宇文泰的鲜卑化政策 。北齐提倡排汉文化 。北周建立关中本位政策，融合鲜卑及汉文化以消除胡汉隔阂 。在隋朝统一天下後，合并关东与江南人而形成新汉族，开创出具开放性和包容性的隋唐文化。
政府部门南朝宋之后设有门下省，至此确定了三省制度。门下省负责献计策和劝谏皇帝，参与机密之事，又成为大权掌握的机构。
行政区划南朝政承袭东晋，实行州郡县三级制。而侨州郡县及双头州郡也因为土断而变成一般州郡。自东汉末期实施的州郡县三级制，到隋平陈后改为州县二级制而结束。南朝的州设刺史，郡设太守，只有丹阳郡因为是首都所在地而设尹。县设令、长。自宋以后，令多於长。与郡同级的有王国和公国，设内史和相。还有特为习称蛮民及僚族、俚族等少数民族设置左郡、左县和僚郡、俚郡。例如有南陈左郡、东宕渠僚郡等。当时州郡县有等级之分，大致上以距离首都远近为品级高低之分，诸州佐吏则按州的等级设置官员。扬、荆二州还有“二陕”之称呼。 北魏在北魏孝文帝以后，官制模仿南朝，至唐代仍沿用。北周时按周礼，设置六官，即天官、地官、春官、夏官、秋官、冬官六府，是隋唐之后六部体制的源头。
北朝政区承袭十六国，如同南朝一样为州郡县三级制。然而州辖区不大，州刺史可越郡级直接管理县，使得郡级逐渐虚级化，到583年隋朝正式定为州县两级制。北魏也设有侨州郡县和双头州郡(如南雍州)，并将州郡县按人口数分等级。为了防范新附或异姓叛变，于406年将各级行政长官分立三位，其中州刺史方面须一位为宗室。北魏原设有负责地方军政的行台及管理数州军事的都督。到北齐定为行台制，北周则为总管制，都是负责数个州郡军事与行政的政区单位。北齐因为州辖区越分越细，于是设置行台兼管数州民政及军事 。西魏则改称都督为总管，性质同北齐行台。北周时，总管一般兼任驻州刺史，并以所驻之州为名。北魏还特为鲜卑本族或其他民族(汉人除外)设置领民酋长来管理该族，地位只次于州刺史。又延续十六国政区，设有管理州境内其他民族的护军。其地位等同郡守，至457年废除。还有镇戍制，于重要的军事要地设镇。镇由镇将管理，下置戍，由戍主管理。其中又以巩固首都平城的六镇最重要 ，至孝文帝迁都后势微。六镇民变后，北朝的镇戍专管军事，不再具政区性质。