姚崇年轻时生性洒脱，注重气节，勤习武艺，以打猎自娱，二十岁后发奋读书，以孝敬挽郎的身份步入仕途，又考中下笔成章举，授为濮州司仓参军，累迁至夏官郎中。
万岁通天元年(696年)，契丹李尽忠、孙万荣作乱，攻陷河北数州。当时，军机事务繁忙，姚崇处理得当，有条有理，深受武则天赏识，被擢升为夏官侍郎。
武则天的男宠张易之欲把长安大德寺中的十名僧人调到定州，充实私置寺院，致使僧人上诉。姚崇不顾张易之的屡次说情，断停此事，因此得罪张易之，被贬为司仆寺卿，但仍保留宰相头衔。九月，姚崇出镇灵武，充任灵武道行军大总管、安抚大使，并举荐秋官侍郎张柬之为宰相。
神龙元年(705年)，张柬之与桓彦范等人，发动神龙政变，拥立唐中宗为皇帝，复辟唐朝。姚崇恰于此时回到京城，得以参与政变密谋，因功赐爵梁县侯，实封二百户。不久，姚崇被外放为亳州刺史，后历任宋州、常州、越州、许州。
景云元年(710年)，唐睿宗继位。姚崇被征召回朝，担任兵部尚书、同中书门下三品，又升任中书令。 姚崇与宋璟协力合作，革除中宗时期弊政，任用忠良，贬黜奸邪，赏罚分明，杜绝请托，使得各项法度重新得到整饬，朝野都认为国家复有贞观、永徽之风。
当时，太平公主干扰朝政，诸王手握兵权，对皇太子李隆基构成威胁。景云二年(711年)，姚崇与宋璟密奏睿宗，建议将宋王李成器、豳王李守礼外放为刺史，将岐王李隆范、薛王李业由羽林将军改为东宫属官，并让太平公主迁居东都。太平公主大怒，指责李隆基。李隆基无奈，只得上奏皇帝，称姚崇离间宗室。姚崇因此被贬为申州刺史，后历任扬州长史、淮南按察使、同州刺史。他政法简肃，吏治清明，得到百姓立碑颂扬。
姚崇在京城没有住宅，寓居在罔极寺中，因疟疾卧床不起。唐玄宗每日派遣使者数十人，前去探病，每遇军国重事，都命黄门监源乾曜去征求他的意见。后来，唐玄宗采纳源乾曜的建议，命姚崇搬入四方馆居住，并准许他的家属侍疾。姚崇认为四方馆存有官署文书，不是病人居住之地，极力推辞。唐玄宗道：“设置四方馆本就是为官员服务，朕安排您住进来，是为国家考虑。如果可能，朕恨不得让您住进宫里，您不要推辞!”
姚崇虽是一代贤相，但却教子无方。其子姚彝、姚异广交宾客，招权纳贿，遭到舆论的非议。中书主书赵诲接受胡人贿赂，因事情败露，被唐玄宗定为死罪，姚崇也极力营救。玄宗对此非常不悦，在赦免京城罪囚时，特意在敕文中注明，将赵诲流放岭南。姚崇为此忧惧不安，数次请辞相位，并推荐广州都督宋璟继任宰相。不久，姚崇被罢去宰相之职，改任开府仪同三司。
唐玄宗虽将姚崇罢相，但对他仍极为尊崇，让他五日上朝一次，遇到重大政事也专门征询他的意见。 开元八年(720年)，唐玄宗封姚崇为太子少保，但他却因病没有接受。
开元九年(721年)，姚崇病逝，终年七十二岁，追赠扬州大都督，谥号文献。开元十七年(729年)，唐玄宗又追赠姚崇为太子太保。