王观年轻时孤单贫贱，但却能磨砺志向。曹操征召他为丞相文学掾，出任高唐、阳泉、酂县、任县诸县县令，所仕之处都得到治理。
黄初元年(220年)，魏文帝曹丕称帝后，王观入朝担任尚书郎、廷尉监。后又出任南阳、涿郡太守。涿郡北面与鲜卑势力范围接壤，屡次遭到鲜卑进攻抢掠。王观上任后，命令当地边境居民每十家以上就屯居一处，并在高处修建哨所以防备鲜卑侵扰。当时有的人不愿意作这些工事，王观便派遣吏卒，让他们去帮助这些人家修筑，并不约定期限，只要把交代的事情做完了就各自回来。于是吏卒和百姓互相协作，自觉自愿，互相勉励，没多久就全部完成了。有了防御准备，鲜卑掠夺的事也就不再发生了。
魏明帝曹叡即位后，下诏书根据各郡县事务的多少把它们分成剧、中、平三等。主事者想把涿郡列为中或平，王观说：“涿郡靠近敌人，经常遭其侵犯，为什么不列为剧呢?”主事者说：“如果把涿郡列为外剧郡，恐怕太守要用儿子作为人质。”王观说：“论其为官者，应一切以百姓为重。如今列在外剧，那样在服劳役、征户税方面就要有所削减。怎么为了我个人的利益而有负于一郡百姓呢?”于是涿县被列为外剧郡，后来王观送自己的儿子到邺城去作人质。此时，身边就只有一个幼子。他的公正无私之心就是如此。王观修身自好，清静素朴，堪称下属官吏表率。下属官员学习他的作风，无不勉励自己。
后来，魏明帝到许昌，征召王观为治书侍御史，主管行台狱。当时魏明帝多有仓猝之举，喜怒无常，而王观从不阿谀奉承。太尉司马懿奏请魏明帝让王观担任从事中郎，后升任尚书，又出任河南尹，转任少府。
魏明帝死后，辅政的大将军曹爽专权，生活奢侈，曾命材官张达削减国家建筑房屋的材料，挪来作为己用，王观听说后，全部造册并将财物没收入官。另少府属下三个尚方御府内有很多珍奇玩物，曹爽常常要求取用但害怕王观的守己。少府统管三尚方御府内所藏玩物，曹爽等人奢侈放纵，多次想求取，但又惧于王观守法严正，于是调任王观为太仆。
正始十年(249年)正月，少帝曹芳拜谒位于高平陵的魏明帝之墓，曹爽兄弟及其亲信们皆随同前往。司马懿以郭太后名义下令，关闭了各个城门，率兵占据了武库，并派兵出城据守洛水浮桥;命令司徒高柔持节代理大将军职事，占据曹爽营地;太仆王观代理中领军职事，占据曹羲营地。司马懿诛杀曹爽，派王观行使中领军的职权，占据曹爽弟弟曹羲的军营，赐给他关内侯的爵位。重新任命他为尚书，加授驸马都尉。
正元元年(254年)，魏帝曹芳被废，曹髦继位，封王观为中乡亭侯。不久，加授光禄大夫，转任为右仆射。
景元元年(260年)，魏元帝曹奂继位，进封王观为阳乡侯，增加食邑一千户，加上以前所封的合计二千五百户。升任司空，王观坚决推辞，曹奂便派人到他家去授予官职。上任几天，曹奂送给玉玺和绶带，王观立即自己坐车回到自己的住宅。王观后在家里去世，遗嘱指令只要有一口棺材即可，不设宝物祭器，坟墓上不封土不植树。追谥肃侯。他的儿子王悝继承爵位。咸熙年间，设立五等爵位，因为王观在前朝功勋卓著，改封王悝为胶东子。