刘繇是汉朝皇室的远亲(齐悼惠王刘肥之孙牟平侯刘渫的后代)，十九岁时因为堂叔刘韪被盗匪所劫持为人质，刘繇为搭救其堂叔，召集十多人混进贼窝，趁隙将盗匪头目斩首成功救出堂叔后而出名。由于其表现深受乡民爱戴，因而推举其为孝廉，拜郎中。后来迁任下邑长，因为拒绝权贵的请托而弃职逃离。又被州里征辟，巡行至济南，济南相是中常侍之子，刘繇发现他贪赃枉法，于是立即将其奏免。平原人陶丘洪想要让刺史举其为茂才，刺史说：“去年已经举荐了公山(刘繇兄刘岱)，怎么现在又要举荐正礼(刘繇表字)呢?”陶丘洪说道：“如果使君您举荐公山在前，提拔正礼于后，这正是所谓的在长途中驾驭二龙，使千里马驰骋，这难道不可以吗!”不久，刘繇被司空府征辟为掾属，除任侍御史，刘繇都未到任，继而在淮浦躲避战乱。
兴平元年(194年)，朝廷命刘繇继陈温为扬州刺史。本来扬州刺史的驻地在江北的寿春，但当时政局混乱，淮南一带已是袁术的势力范围，孙策的舅舅吴景和堂兄孙贲将刘繇迎接到江南的曲阿(今江苏省丹阳市)，刘繇才得以在扬州立足。当时，袁术阴谋叛乱篡位，攻克周围各郡县，特别是其部将孙策攻陷庐江，更让刘繇感到恐惧。刘繇派遣樊能、张英驻军江边防御袁术，考虑到吴景、孙贲是袁术所任用的人，就迫逐他们至江北历阳(今安徽和县)。于是袁术自置扬州刺史，并且与吴景、孙贲合攻张英、樊能，双方胜负难分，处于胶着状态，一年多也未能攻下。朝廷加授刘繇为扬州牧、振武将军，拥兵数万。
建安元年(196年)，刘繇命张英、樊能与东渡而来的孙策军对抗，但是不敌孙策的大军而败。之后刘繇率领同乡的太史慈与孙策对抗，但也因中计而大败，太史慈被孙策俘虏转投靠孙策。大败之后的刘繇接受许劭的建议逃到豫章(今江西省南昌县一带)投靠刘表，当时豫章太守周术因病而死之后，太守之位悬空，以刘表的后援来说理应以诸葛玄(诸葛亮、诸葛瑾之叔父)成为太守，但是汉室朝廷却命朱皓(朱儁之子)为太守，导致为争夺豫章太守而有多次冲突，刘繇后来出兵协助朱皓当上太守，将诸葛玄赶回襄阳刘表身边。但笮融诱杀朱皓，于是刘繇又进攻笮融，首战被笮融击破，很快刘繇再次召集所属各县人马，大败笮融。建安二年(197年)，刘繇因病去世，享年42岁。孙策后来将刘繇安葬在其故乡东莱郡牟平，并且带回其遗孤。后世人认为这是因为刘繇是汉皇族的人，为拢络其势力而故意这样做，但也有些人认为这是因为刘繇生前因为清廉而有威望所致。