王珣出身琅玡王氏，为丞相王导之孙、中领军王洽之子。最初担任桓温的掾属，与同僚谢玄都被桓温敬重，后转任主簿。当时桓温正进行北伐，军中机要事务都交由王珣处理，军中文武数万人都认识他。太和四年(369年)，豫州刺史袁真不甘心被桓温指责，被逼承担桓温第三次北伐失败的责任，又因朝廷不处理其诉，便叛归前燕。当时王珣亦参与讨伐，于太和六年(371年)平定叛乱，王珣因功封东亭侯。其后转任大司马参军、琅邪王友。宁康元年(373年)桓温死后，王珣调任中军将军桓冲的长史、给事黄门侍郎。
王谢交恶当时，王珣娶了谢万的女儿，其弟王珉亦娶了谢安的女儿。虽然与谢氏结成姻亲，却互相猜嫌，后谢安更让二人离婚，王谢两家于是成了仇敌。当时谢安当国主政，在其意愿下王珣被任命为豫章太守，王珣不欲外出远地，便不去上任。后又被任命为散骑常侍，王珣未接受任命，又调任秘书监。
孝武所倚太元十年(385年)，谢安去世。其后，王珣调任侍中，很受晋孝武帝司马曜的倚重。后转任辅国将军、吴国内史，任内深得当地士庶之心。 太元十五年(390年)九月，王珣被征召为尚书右仆射，领吏部事务。 太元十六年(391年)九月，王珣转任尚书左仆射，加征虏将军，领太子詹事。 孝武帝雅好典籍，王珣与殷仲堪、徐邈、王恭及郗恢等人就以才学和文章而深受孝武帝亲待，被引为心腹。但王国宝等人此时依附辅政的会稽王司马道子，而司马道子与孝武帝关系一度剑拔弩张。孝武帝担心自己一旦去世，朝中必生事端，便分别命王恭和郗恢出任兖州刺史及雍州刺史，殷仲堪司牧荆州，作为外援，而留王珣在朝任宰辅重臣。