隋朝实行三省六部制，三省长官即内史省的内史令、门下省的纳言、尚书省的尚书令三人皆为宰相。唐代在继承隋朝的基础上又有所改变，将内史省改名为中书省，内史令相应地更名为中书令，将门下省长官纳言改名为侍中。
中书省中书令、门下省侍中都是宰相，尚书省的尚书令也是宰相，不过由于唐太宗李世民在继位之前曾任尚书令，臣下为了避嫌，无人敢任此职，于是尚书令的副手尚书左、右仆射变成尚书省的宰相，这样就出现了三省四位宰相的情形。
后来因为中书令、门下侍中位高尊崇，与尚书省属官左、右仆射并任宰相不妥，于是不再轻易授予中书令、门下侍中两官职，而是改以其他官职加上“参知政事”“参议朝政”“参议得失”“平章政事”的名义行使宰相职权。唐高宗之后，高级官员加“同中书门下三品”“同中书门下平章事”名号都可以称为宰相，从此“同三品”“平章事”成为宰相专属衔号。到唐朝后期，宰相的名号基本上都统一到“同平章事”的名义下。
与两汉丞相一人独任或最多两人(左、右丞相)相比，唐朝宰相一般由多人担任，是一种“集体领导”制度，其中为首一人称为“执政事笔”，玄宗朝的李林甫、杨国忠都曾任过。安史之乱后，唐肃宗鉴于此前宰相权力过于集中的弊端，采取了防范措施，建立宰相“十日一秉笔”的轮流执政制度，目的是为了杜绝相权长期独揽在某一人手中。