吕范年轻时只是一名汝南郡的县吏，但是仪表过人。城里有刘姓人家，家境富裕而且女儿非常美丽，吕范前往求亲，刘氏的母亲嫌弃吕范，不愿意答应婚事，但是刘氏却说：“您认为吕子衡会是个长贫的人吗?”意指在她眼中吕范有其过人之才，将来必得显贵，于是决定嫁予吕范。
后来，吕范避难至寿春，结识了当时在袁术手下效力的孙策，孙策认为吕范与众不同，以礼相待。于是吕范将自己的百余名门客交由孙策指令，自此跟从孙策。当时孙策的母亲吴夫人身处江都，孙策派遣吕范迎吴夫人回曲阿，让母亲暂栖于舅氏吴景之处。徐州州牧陶谦认定吕范是袁术一方的内应，下令各县通缉吕范。吕范知情后，亲自招募能手，引领门人偷偷将吴太夫人接走，再迅即回到孙策之处，成功完成使命。当时孙策还未建立功业，手下就只有吕范和族人孙河经常跟随左右，二人常为孙策四处奔走，不避危难，渡江取夫人就是其中一例;因此孙策亦视吕范为至亲，每每请其赴宴，便与吴夫人一起饮食，并不紧执君臣之礼。吕范之后跟随孙策攻破庐江，随军东渡长江，向江东地区进军。吕范率军在横江、当利一带击败张英、于麋等众，南下攻陷至丹杨、湖孰，受领湖孰相。孙策攻克秣陵、曲阿后，收编了笮融、刘繇的余部，增派给吕范兵士二千及马五十匹。此后吕范出任宛陵令，击败丹阳贼寇，回到吴郡后升任都督。其时下邳陈瑀自号吴郡太守，据地自守，屯于海西，并与当地豪强严白虎勾结。于是孙策亲自带兵征讨严白虎，另遣吕范与徐逸攻打陈瑀，吕范军队大败敌军，并且斩下大将陈牧的首级，陈瑀败投袁绍。此后吕范跟随孙策攻打在陵阳的祖郎、驻守勇里的太史慈，先后平定七个县，拜为征虏中郎将，又出征江夏郡，回来平定了鄱阳地区。
建安五年(200年)，孙策病逝，吕范回到吴郡奔丧。此后孙策的弟弟孙权接掌东吴势力，继承军队，再征江夏，吕范奉命与重臣张昭留守根据地吴郡。建安十三年(208年)赤壁之战中，吕范跟随周瑜破敌有功，战后官拜裨将军，领彭泽太守，受彭泽、柴桑、历阳三地奉邑。之后，刘备亲自来到建业与孙氏结为姻亲，吕范曾建议软禁刘备，然而其计最终没有实行。后来吕范迁任平南将军，屯军柴桑。建安二十四年(219年)，当孙权正要背盟偷袭刘备驻守荆州的大将关羽前，曾到过吕范的家跟他说：“如果当初听从你的建议，今天就不必劳师动众了。如今我将逆流攻讨关羽，你要帮我守卫好建业。”结果孙权成功讨破关羽，之后回师迁都武昌。吕范拜为建威将军，封宛陵侯，领丹杨太守，治理旧都建业，并监督扶州以南直至南海地区一带的军队，食邑溧阳、怀安、宁国。后来，魏将曹休、张辽、臧霸率军进攻东吴，吕范率领徐盛、全琮、孙韶等将领，以水军在洞口县一带拒敌。其时吕范受封前将军假节，并改封南昌侯。可是当时前线遭逢大风，水军船只相继倾覆，士卒亦多堕水受溺，死者数以千计，于是撤军还守。不过回军后，吕范仍被任命为扬州牧。
吕范好威仪，诸士族子弟如陆逊、全琮等人，都对他恭敬有礼，不敢有轻佻的行为。吕范的居所及身上的服饰，在当时很奢侈，但他勤劳做事奉守法度，所以孙权喜爱他的忠勤，没有责怪他的挥霍。有人在孙权面前离间说吕范与贺齐的装饰美好绮丽，与王者之服相似，孙权说：“当年管仲有越过礼仪的过错，而齐桓公宽容的对待，无损于霸业。如今子衡、公苗(贺齐字)，并没有夷吾(管仲名)的过失，只是装备的器械精良，舟车队列严整罢了，这只是用作改变军容，对统治有什么损害呢?”那个人于是不敢再说了。黄武七年(228年)，吕范迁任大司马，可是印绶尚未下发便因病逝世。孙权为其素服举哀，并遣使者追赠印绶。黄龙元年(229年)大帝后来迁都回建业，路上经过吕范坟墓，仍忍不住悲呼：“子衡!”并且泪流不止。大帝回都后，下令以太牢之礼(猪、牛、羊三牲齐备谓之太牢，是古时天子祭祀社稷天地所用的大礼)祭祀吕范。后来与将相文武大会时，跟严畯论及吕范和鲁肃时说：“我过去把吕子衡比吴汉，当时你们争论没有停息过，这下有决断了吧?”严畯退席说：“我还是不明白这个意思，觉得未免太夸赞了吧。”大帝说：“吕子衡为人忠诚正直，虽然爱好奢华，但凡是总以顾及君主为先，这点缺点不足为忧。过去吕范回避袁术自愿归顺兄长。后来兄长为主帅另外领军的时候，吕范忧虑我哥哥的事，乞求为一方都督主持大事，他又忠心勤奋。所以我才这么比较。这是有缘故的，不是我偏爱他。”严畯于是信服。吕范死后，其长子因已先死，故此由次子吕据袭爵。