桓彦范为人慷慨豪爽，早年以恩荫调任右翊卫，累迁至司卫寺主簿，受到纳言狄仁杰的赏识，擢升为监察御史。
长安三年(703年)，桓彦范升任御史中丞，次年又改任司刑少卿。当时，御史中丞宋璟弹劾司仆卿张昌宗勾结术士李弘泰，意图谋反，请求将其下狱治罪，武则天不许。桓彦范上疏劝谏，但却没有任何答复。 后来，内史李峤上奏称：“陛下登基之时，很多臣民不遵臣节，从而导致酷吏肆无忌惮地施行酷刑。恳请陛下为所有被周兴等酷吏治罪而家破人亡的人昭雪，赦免他们的罪责。”桓彦范也上奏陈述此意，前后共上奏疏十次，才获得武则天的采纳。
长安四年(704年)十二月，武则天病重，避居迎仙宫。张易之与张昌宗侍奉左右，把持宫门，不许大臣探视。桓彦范与宰相张柬之、中台右丞敬晖等人决定趁机发动兵变，逼迫武则天退位，复辟唐朝。张柬之利用职权安排桓彦范、敬晖为左右羽林将军，让他们掌握禁军。当时，皇太子李显在北门起居。桓彦范便利用禁军将军身份拜谒李显，密陈政变计划，得到太子的赞同。神龙元年(705年)正月，桓彦范与张柬之、敬晖等人率五百羽林军向宫中进发，并命李湛、李多祚前往东宫，将李显接到玄武门。禁军见太子出面，鼓噪不已，桓彦范等人遂簇拥着李显闯入玄武门，直达迎仙宫集仙殿，并诛杀张易之兄弟。武则天自梦中惊醒，得知情况后，对李显道：“这是你的主意吗?如今张氏兄弟已经伏诛，你可以返回东宫。” 这时，桓彦范进言道：“太子不可返回东宫。昔日高宗驾崩，将爱子托付陛下，却久居东宫。如今天意民心尽归李氏，群臣不忘高宗恩德，故此尊奉太子，诛除逆贼。请陛下传位于太子，使万世不绝，这是天下之幸。”武则天不再说话。次日，武则天禅位于李显，是为唐中宗。
唐中宗复位后，桓彦范因功被任命为纳言，并封上柱国、银青光禄大夫、谯郡公。不久，唐中宗恢复唐制，更改官名，桓彦范也改任侍中。 后来，韦皇后干预朝政。桓彦范上表道：“陛下每次临朝，皇后总是坐在帷帐后面参预军国政事。臣发现历朝帝王凡与妇人共同执政的，最后都导致国破身亡。再说阴凌驾于阳之上，是违背天道的;妇人欺凌丈夫，是违背人道的。所以《尚书》、《周易》都认为妇人不能干预外政。臣请陛下以社稷为重，不要让皇后干预国政。”唐中宗不听。 不久，唐中宗又任命方士郑普思为秘书监，叶静能为国子祭酒。桓彦范再次上表反对，道：“陛下登基时，曾说要一切依照贞观年间。贞观时期，秘书监是魏征、虞世南、颜师古，国子祭酒是孔颖达，这些都是一代名臣，郑普思、叶静能一介术士，怎能与他们相比?臣担心人们议论陛下官不择才，希望陛下慎重选择。”唐中宗仍旧不听。 当时，武三思仍在朝中为相，对桓彦范逼武则天退位之事非常痛恨，又担心桓彦范会逐渐铲除武氏，便图谋桓彦范等人。他与韦皇后私通，在中宗面前不断进谗。五月，桓彦范、敬晖、张柬之、崔玄暐、袁恕己五人被罢去相位，加封特进、郡王，并赐铁券。其中，桓彦范封扶阳郡王，赐姓韦氏。
神龙二年(706年)，桓彦范被贬出朝廷，担任洺州刺史，后任濠州刺史。不久，驸马都尉王同皎谋诛武三思，事泄被杀。武三思趁机诬陷桓彦范等人与王同皎同谋，暗中指使许州司功参军郑愔向朝廷告发。唐中宗于是将桓彦范贬为泷州司马，并剥夺封爵。 七月，武三思暗中命人将韦皇后淫乱后宫之事大肆宣扬，并嫁祸给桓彦范等人。唐中宗震怒，命御史大夫李承嘉调查。李承嘉按照武三思的意思上奏道：“桓彦范、敬晖、张柬之、袁恕己、崔玄暐故意暴露丑闻，煽动叛乱情绪，托言废黜皇后，实际上是要动摇皇位。”唐中宗便命法司议罪，将桓彦范流放瀼州，禁锢终身。 后来，武三思又怂恿太子李重俊上表，请求夷灭桓彦范三族，唐中宗不肯。武三思担心桓彦范等人会复起，便采用崔湜的计策，命周利贞假传圣旨，将其杀死。周利贞在贵州追上桓彦范，命人将他绑缚，在竹槎之上拖行。桓彦范的皮肉都被竹槎刮掉，然后被乱棍打死，时年五十四岁。