洪武五年(1372年)，杨溥出生在湖广石首。他与杨荣同为建文二年(1400年)进士，授翰林编修。永乐初年，杨溥任太子洗马，成为皇太子朱高炽的东宫僚属。太子有一次读《汉书》，称赞张释之有贤才。杨溥说：“张释之诚然有贤才，但如果不是汉文帝宽厚仁爱，他也无法施展他的抱负。”于是摘取汉文帝的事迹，分类编好，献给太子。太子非常高兴。不久，杨溥因亲丧回家守孝。当时太子监国，便强令他回南京任职。永乐十二年(1414年)闰九月，成祖北征回师，朱高炽遣使迎驾稍迟，汉王朱高煦乘机进谮，成祖一怒之下，下令将东宫官属全部逮治下狱。这成为继解缙入狱后，立储之争中的第二场大事变。当时只有兵部尚书兼詹事府詹事金忠因系成祖“靖难”旧人而幸未被祸。金忠是个敢于仗义执言的人，他不顾触怒成祖，以身家性命力保太子，才使太子未遭废罢，但是作为东宫宫僚的杨溥、黄淮等人却因此事件而被关入诏狱在狱中，家人供应的食物多次断绝，而成祖的心意也不可预测，随时都有可能死去。但杨溥却更加勤奋读书，从不间断。狱中十年，他把经书史籍通读了好几遍。
永乐二十二年(1424年)八月十五，太子朱高炽即位，是为明仁宗。杨溥获释出狱，仁宗即位后的第三天，杨溥被授官翰林学士。他曾秘密上书议论政事，仁宗对他加以褒奖，赐给钞币。后来，皇上想到由于自己的缘故而使杨溥久困狱中，更特别同情他。洪熙元年(1425年)，仁宗在思善门左侧建弘文阁，在群臣中选择有才学、品行好的人入阁值班。杨士奇推荐侍讲王进、儒士陈继，蹇义推荐学录杨敬、训导何澄。仁宗授予陈继博士，杨敬编修，何澄为给事中，每天到阁中值班。又命杨溥掌管阁事，并亲自授予他阁印，说：“朕把爱卿留在左右使用，不仅只是为了学问，还想广泛了解民情，以有助于治理国家。你有什么建议要报告，可以密封后上呈。”不久升为太常寺卿，仍兼旧职。数月之间，连授三职，足见仁宗对于杨溥的关切之心。