杨士奇一岁时丧父，其母改嫁当时任德安同知的罗性，杨士奇于是改姓罗。 后来有一次罗家祭祖，年幼的杨士奇自做土像祭祀杨氏祖先，被罗性发现并赞扬他的志气，恢复其宗姓。 随后，罗性因得罪权贵戍边陕西去世，杨士奇与母回到德安，他一边教学一边侍母。他游走于湖北、湖南进行教学，其间居住江夏的时间最长。建文年间，明惠帝召集文臣修撰《明太祖实录》，王叔英以史才推荐杨士奇。之后，他进入翰林，充当编纂官。随后，吏部对进入史馆的文臣进行考试，吏部尚书张紞看到杨士奇的答卷后说：“这不是一个编经人的言论。”于是奏请为第一名。该授吴王府副审理，仍然供其编纂馆职位。
明成祖即位后，改杨士奇为翰林院编修。不久，进入内阁，参与负责机务。数月后，晋升为侍讲。 永乐二年，选拔宫僚，杨士奇为左中允，三年后再升为左谕德。杨士奇为官非常谨慎，回家时从不言公事，即使是至亲都不得听闻。他在明成祖前，举止恭慎，善于对答，谈事有灼见。他人有过失，杨士奇都为之揜覆。当时广东布政使徐奇统领西南时，赠当地特产与内廷官员，有人得到馈赠名单呈上皇帝。明成祖看后其中无杨士奇名字，于是召见询问。他回答道：“徐奇当时奔赴广东的时候，群臣作诗文赠行，当时恰逢我得病未有参与，所以唯独没有我的名字。如果我当时无病，是否有我的名字也未知。况且赠礼都是小东西，应当没有其他意思。”明成祖于是命令烧毁了那份名单。