炀帝大业三年(公元607年)又增设了谒者、司隶二台，合称三台。御史台的长官为御史大夫(从三品)1人，次官为治书侍御史2人。属官有侍御史8人，殿内侍御史、监察御史各12人，录事2人。御史职掌纠察弹劾。如《隋书·李孝贞传》载：隋初李孝贞为内史侍郎，不称职，文帝欲免其官，就先“敕御史劾其事，由是出为金州刺史”。御史还出使巡察，监诸军旅，如《隋书·柳彧传》载：开皇时，柳彧为治书侍御史，持节巡察河北五十二州，“奏免长吏赃污不称职者二百余人”;仁寿初，又持节巡察太原道十九州。炀帝时设置了谒者、司隶二台后，便分割了御史台的职权。谒者台的职掌是奉诏出使，慰抚劳问，并持节察按，遇有冤狱则受而奏之。长官为谒者大夫1人(正四品)。司隶台职掌巡察京畿内外，长官为司隶大夫1人(正四品)，属官有别驾2人，分察畿内，一人管东都洛阳，一人管京师长安。有刺史14人，从事40人副之，掌巡察京畿以外的全国郡县，其职责是“激浊扬清”，若遇贪黩的郡守则有权免职，有功则上报其事迹，加以旌勉。不久，司隶台被废，改派以京官清明者挂司隶衔头出使巡察。
隋初的都水台和太常以下十一寺，到炀帝大业三年(公元607年)演变为太常、光禄、卫尉、宗正、大仆、大理、鸿胪、司农、太府等“九寺”，以及国子、将作、都水、长秋和从太府寺分置的少府等“五监”，统称诸寺、诸监，也都是中央具体的事务机关。由于各寺、监长官都得亲自处理事务，所以往往选派懂得该方面事务或有专长的人担任，如将作监掌土木工程，长官称将作大匠。据《册府元龟》卷602《卿监部·选举》记载，宇文恺从小好技艺之事，有巧思，因受株连除名在家。杨坚建造仁寿宫时，特地征召他代理将作大匠，以总其事。又如司农寺是掌屯田种植的，长官称卿。据《隋书·樊叔略传》载，樊叔略在任司农卿时，“凡种植，叔略别为条制，皆出人意表”。再如太府寺在开皇时兼掌手工业，据《隋书·苏孝慈传》载，苏孝慈在任太府卿时，“征天下工匠，无不毕集，孝慈总其事，世以为能。”隋代因设六曹尚书，所以寺卿的权力比秦汉之九卿为轻。
杨坚出身军事贵族，又凭借军政权力攫取了帝位，深知集中军权对于巩固统治的重要性。北周时期，强迫汉族官员改用鲜卑姓，兵士也要随将军改姓。杨坚下令恢复群官旧姓，也就相应地改变了兵随将姓的宗法隶属关系。以后，在北周府兵制的基础上，建立十二府：即左右卫、左右武卫、左右武侯、左右领、左右监门、左右领军等，统领全部内外禁卫部队。每府设大将军1人，将军2人，下辖骠骑、车骑府。十二府的大将军直隶于皇帝，军人总称侍官。隋初兵府各级将领的数目比北周时增多，而品位则普遍降低二、三级。这些改变大大加强了以杨坚为首的隋朝中央政权对军队的控制。到炀帝时，把隋初的十二府变为左右翊卫、左右骑卫、左右武卫、左右屯卫、左右御卫、左右侯卫等十二卫和左、右备身府、左、右监门府等四府，统称十六卫府。各府所辖之骠骑府改称鹰扬府，军人改称卫士。十六卫府为中央军事宿卫机关，统领全国军队。这与尚书省兵部仅掌军事行政，而无一兵一卒之权不同。十二卫各有大将军1人，将军2人，分统府兵。四府不统府兵，各置郎将1人，直斋或直阁若干人。备身府掌左右侍卫，监门府掌门禁守卫。
称“皇储”，置太师，太傅，太保及少师，少傅，少保，专司训导。此外，在其府下还有一套文武人马，其制拟中央官制，门下坊拟门下省，置左庶子2人，内舍人4人，录事2人，主事令史4人，统领司经、宫门、内直、典膳、药藏、斋帅等六局。司经局置洗马4人，校书6人，正字2人。宫门局置宫门大夫2人。内直局置内直监、内直副监各2人，监殿舍人4人。典膳、药藏、置监、丞各2人。药藏又有侍医4人。斋帅局置吏员4人。典书坊拟内史省，置右庶子2人，舍人、通事舍人各8人，录事2人，主事令史4人，内坊典内及丞各2人，丞直4人，录事1人，内厩置尉2人，掌内车舆之事。家令寺、率更令寺、仆寺，制拟中央诸寺诸监。家令寺置丞2人，掌刑法、食膳、仓库、什物、奴婢等事。率更令寺置丞1人，掌伎乐漏刻。仆寺置丞1人，掌宗族亲疏，车舆骑乘。家令寺领食官、典仓、司藏三署令。仆寺领厩牧令员。此外，东宫还置有十率府，即左右卫、左右宗卫、左右虞候、左右内率、左右监门，其制拟十六卫府。但实际上其职事都比较清闲，而且往往由他官兼领。如杨坚的长子杨勇为太子时，高祖“多令大臣领其职”，据《隋书·苏孝慈传》载，兵部尚书苏孝慈就曾挂名兼领太子左卫率、太子右庶子等职。
隋文帝采用北周之制，设“勋位”十一等，即上柱国、柱国、上大将军、大将军、上开府仪同三司、开府仪同三司、上仪同三司、仪同三司、大都督、帅都督、都督等，以酬答有功之臣。又设特进、左右光禄大夫、金紫光禄大夫、银青光禄大夫、朝议大夫、朝散大夫等散官之号，以加封给品德高尚、声名著称但不理事的官员。隋代规定，有具体职责的官员称“职事官”，无者为“散官”。