裴光庭虽然幼年丧父，但因母亲厍狄氏深受武则天的宠信，得以累迁至太常丞。唐睿宗年间，裴光庭因是梁王武三思的女婿，被贬为郢州司马。
唐玄宗开元年间，裴光庭历任右率府中郎将、司门郎中、兵部郎中。他沉默寡言，不善交游，但工作严谨，受到时人的推崇。
开元十三年(725年)，唐玄宗到泰山封禅。中书令张说担心夷狄会趁机入侵，欲加强边防军备。裴光庭表示反对，认为有违封禅本意，会使封禅之举名不副实。他道：“夷狄之中，突厥实力最强，也有与我大唐修好之意。若遣使赴突厥，让其派人参加封禅之行，必会欣然从命。突厥若来，诸蕃君主必相继而来。到时我们就算偃旗息鼓，也能高枕无忧。”张说采纳了他的建议，并改任他为鸿胪少卿。东封结束后，裴光庭升任兵部侍郎。
开元十七年(729年)，裴光庭升任中书侍郎、同中书门下平章事，兼御史大夫，后又改任黄门侍郎。当时，宇文融因善于敛财，被罢去宰相之职。唐玄宗鉴于朝廷财政困难，对宰相道：“如今国库用度不足，你们认为应该怎么办?”裴光庭无言以对。他担心宇文融被起用，便行使御史大夫职权，弹劾宇文融交游朋党，并称其子贪赃受贿。宇文融最终被贬到平乐县(在今广西)。
开元十八年(730年)，裴光庭升任侍中，兼吏部尚书，并加弘文馆学士。他撰写《瑶山往则》、《维城前轨》各一卷，对玄宗加以讽谏。唐玄宗下诏褒奖，赐绢帛五百匹，并命皇太子李瑛在光顺门接见裴光庭。裴光庭还引荐李融、张琪、司马利宾等人入值弘文馆，打算按照左传的体制编写《续春秋经传》，并请玄宗撰经。但《续春秋经传》最终未能完成。
开元十九年(731年)，吐蕃遣使入朝，以金城公主的名义求取《诗经》、《春秋》、《礼记》。秘书正字于休烈上疏反对：“东平王刘宇是汉成帝的亲弟弟，他求取《史记》、《诸子》，成帝尚且不给，何况吐蕃是我大唐之仇敌。若授以经典，使其知用兵韬略，变得更加狡诈，会对中国不利。”唐玄宗与宰相商议，裴光庭道：“正因吐蕃愚昧顽固，方要赐以诗书，让他们受到教化。于休烈在书籍之中只看到权略变诈，却没有看到忠信礼义。”唐玄宗遂将典籍赏赐吐蕃。
开元二十年(732年)，唐玄宗命裴光庭与中书令萧嵩分统南衙左右厢兵。同年十一月，裴光庭随唐玄宗祭祀后土，加授光禄大夫，封正平县男。
开元二十一年(733年)，裴光庭病逝，时年五十八岁。唐玄宗废朝三日，追赠他为太师，命张九龄为他撰写神道碑文。太常博士孙琬建议给裴光庭定谥号为克(一作克平)，但玄宗却赐谥忠献。