早年经历
郑当时，字庄，陈县人。他的祖先郑君曾做项羽手下的将领；项羽死后，不久就归属了汉朝。刘邦下令所有项羽的旧部下在提到项羽时都要直呼其名，郑君偏偏不服从诏令。刘邦下旨把那些肯直呼项羽名讳的人都拜为大夫，而赶走了郑君。郑君死于孝文帝时。
郑当时以仗义行侠为乐事，解救张羽的危难，声名传遍梁、楚之间。孝景帝时，他做太子舍人。每逢五天一次的休假日，他经常在长安四郊置备马匹，骑着马去看望各位老友，邀请拜谢宾朋，夜以继日通宵达旦，还总是担心有所疏漏。郑庄喜爱道家学说，仰慕年长者，那种情意殷切的劲儿，就好像惟恐见不到人家一样。他年纪轻，官职卑微，但交游的相知友都是祖父一辈的人，天下知名的人物。汉武帝即位后，郑当时由鲁国中尉、济南群太守、江都国相，一步步地升到九卿中的右内史。
首鼠两端
元光四年（前131年），因灌夫使酒骂座，窦婴与田蚡之争愈演愈烈，汉武帝让两人在东宫辩论，二人针锋相对，互相指责，于是汉武帝向在朝的大臣征询意见，郑当时认为窦婴对，但后来又不敢坚持自己的意见去回答汉武帝。其余的人都不敢回答。汉武帝怒斥郑当时说：“你平日多次说到魏其侯、武安侯的长处和短处，今天当廷辩论，畏首畏尾地像驾在车辕下的马驹，我将一并杀掉你们这些人。”于是将其被贬为詹事，又调任大农令。
廉洁奉公
郑当时做右内史时，告诫属下官吏说：“有来访者，不论尊贵或低贱，一律不得让人滞留门口等候。”他敬执主人待客之礼，以自己的高贵身分屈居于客人之下。郑当时廉洁，又不添置私产，仅依靠官俸和赏赐所得供给各位年长的友人，而所馈送的礼物，只不过是用竹器盛的些许吃食。
每逢上朝，遇有向汉武帝进言的机会，他必得称道天下的年高望重的人。他推举士人和属下的丞、史诸官吏，委实津津乐道，饶有兴味，言语中时常称举他们比自己贤能。他从不对吏员直呼其名，于属下谈话时，谦和得好像生怕伤害了对方。听到别人有高见，便马上报告汉武帝，唯恐延迟误事。因此，肴山以东广大地区的士人和知名长者都众口一词称赞他的美德。