上官桀，是陇西上邦人。年轻时做羽林期门郎，跟随汉武帝去甘泉宫，赶上大风，车不能前进，就解下车盖让上官桀拿着。上官桀捧着车盖，虽然风很大却并没有被车落下；不久下起了雨，他就用车盖替武帝挡雨。汉武帝对他的勇力很是欣赏，就升他做了未央厩令。汉武帝曾经身体不太舒服，等到病好之后，去看马，发现马大多都瘦了，汉武帝大怒，说：“你认为我再也见不着这些马了吗！”要治他的罪，上官桀叩头说：“我听说皇上身体不适，就日日夜夜为您担心，哪里还顾得上看马呀。”话还没有说完，眼泪就一串串地落了下来。汉武帝认为他对自己很忠心，因此十分亲信他，让他做了侍中，逐渐升为太仆。汉武帝病重，封霍光为大将军，太仆上官桀为左将军，都接受了遣诏辅佐幼主。由于先前捕杀造反的莽通立了功，又封上官桀为安阳侯。
当初，上官桀的儿子上官安娶了霍光的女儿为妻，两家结为姻亲，关系密切，霍光每当休假外出时，上官桀经常代替他处理国家大事。汉昭帝即位的时候只有八岁，由其姐鄂邑盖长公主住在宫里，抚育晅童。公主和盖堡的门客迥塱人工夕丛私通。晅童和大将军霍光听说了这件事，不愿断绝公主的私情，就下诏命令工夕丛侍奉公主。公主挑选了周阳氏的女子送进宫来，把她许配给汉昭帝。正好上官安也有个女儿，也就是霍光的外孙女，上官安就劝说霍光把这个外孙女送进宫去。霍光认为孩子还小，就没有答应。上官安平时和丁外人很要好，就去劝说丁外人：“听说长公主要挑选女子进宫，我的女儿容貌端正，如果能趁长公主选女入宫的机会进宫做了皇后，我们父子在朝廷为官，又有椒房为倚重，就全靠你成全了，汉家的旧例是让列侯娶公主为妻，你还担心封不了侯吗？”丁外人十分高兴，把这件事告诉公主，公主认为很有道理，就下诏让上官安的女儿进宫做了使伃，上官安封为骑都尉。又过了一个多月，就册立上官氏为皇后，她才只有六岁。