吕据是大司马吕范的次子，最初因父亲的功勋而担任郎官。后来，吕范卧床重病，吕据被任命为副军校尉，辅助吕范掌管军事。黄武七年(228年)，吕范去世，因吕范的长子早死，故由吕据继承吕范的南昌侯爵位，并升任为安军中郎将。
吕据曾经多次征讨山越，各处深险僻峻之地，只要他去攻打都能取胜。黄龙三年(231年)，吕据跟随太常潘濬讨伐五谿(古代少数民族)，再次立有战功。赤乌四年(241年)，车骑将军朱然进攻樊城，吕据与朱异攻破樊城的外围，回师后被任命为偏将军，入朝补任马闲右部督，升任越骑校尉。太元元年(251年)，因大风使长江水涨泛滥，渐渐淹到城门，孙权派人观察水情，只见惟有吕据派人备置大船防备魏国进犯。孙权对他进行嘉奖，任命他为荡魏将军。孙权重病卧床时，任命吕据为太子右部督。太元二年(252年)，孙权去世，太子孙亮即位，任命吕据为右将军。建兴元年(252年)，魏国出兵攻打东兴，吕据率军奔赴东兴抗击魏军，再立战功。建兴二年(253年)，孙峻杀死诸葛恪，升任吕据为骠骑将军，兼管西宫事务。五凤二年(255年)，吕据为假节，与孙峻等进攻魏国的寿春，回军途中遭遇魏将曹珍，在高亭将其击败。
太平元年(256年)，吕据率军攻打魏国，还未到淮河，就听说孙峻已死，孙峻的堂弟孙綝接替其职位，专擅朝政，吕据大怒，立刻率军返回，意图废除孙綝。孙綝得到消息后，派中书捧着皇帝诏书，命令文钦、刘纂、唐咨等人攻取吕据，又派堂兄孙宪率领“都下兵”在江都迎击吕据。吕据手下的人劝他投降魏国，吕据说：“我耻为叛臣。”于是自杀。孙綝诛灭了他的三族。吴景帝孙休即位，吕据等人得到平反，并被加以改葬和祭奠。