怀素十岁时“忽发出家之意”，父母无法阻止。进入佛门后，改字藏真，史称“零陵僧”或“释长沙”。家贫，买不起纸张，只好在寺院的墙壁上、衣服上、器皿上，芭蕉叶上，练习书法;为了练字，还制作了一块漆盘。 怀素年轻时，书法在于“不师古”。按照中国的笔法传承，他还“不得法”，还处于正统书法的门外。乾元二年(759)，怀素正值弱冠之年，慕名前往李白处求诗。两个人性情相近，李白爱其才，还为他写下《草书歌行》。 唐宝应元年(762年)，怀素他由零陵出发，作万里之行，求师访友，经衡阳、客潭州。唐宝应元年(763年)，怀素又开始北上岳州(今湖南岳阳)。唐大历元年(766年)，怀素写《秋兴八首》。怀素此帖的书风，到这时还未发育成熟，而他的内心也处于彷徨阶段。无论是起笔、行笔、收笔，远还没有迈进晋人的门槛。唐大历二年(767年)，怀素南下到广州向徐浩学笔法。
时徐浩去广州任刺史，此行目的并没有达到。同年冬或三年春，张谓奉诏回京任太子左庶子，于是怀素随同张谓一同进京。有幸见到王羲之、王献之作品，也鉴赏到《曹娥碑》。 在长安，怀素前后大约滞留了5年的时间。唐大历三年(768年)春，怀素“遂担笈杖锡，西游上 国，谒见当代名公”，在衡阳与同舟北上的王邕等共游山水。当时，恰逢贬来潭州(长沙)任刺史的张谓回朝复职，怀素便与之同伴入秦。入京后拜会张旭的弟子邬彤，并引以为师。邬彤把张芝临池之妙、张旭的草书神鬼莫测，以及王献之的书法，都一一讲解给了怀素;离别之时，邬彤又将作字之法，一个“悟”字教给怀素。唐大历六年，怀素母病甚重，遂于腊月初回乡探视，以待汤药。怀素觐亲以后，即重返京师。
唐大历七年(772年)，九月左右，怀素返回故乡，绕道东都洛阳南下，拜会颜真卿。 颜真卿把“十二笔意”即“平谓横、直谓纵、均谓间、密谓际”等传授给了怀素，并告诉怀素，他二十多岁时，曾游长安，师事张旭二年，略得笔法，自以为未稳。颜真卿并为怀素作《怀素上人草书歌序》。唐大历十一年(777年)八月六日，创作《自叙帖》。帖中概括了他一生的主要事迹，在《自叙帖》中，怀素对给予自己艺术有所教益的几位重要人物都留下了篇幅。唐贞元三年(787年)，怀素与陆羽相识并相交。陆羽写下了《僧怀素传》，是研究怀素的第一手资料。唐贞元十五(779年)，怀素又回到了零陵，写《小草千字文》。晚年在四川成都宝园寺度过，唐贞元十五年(799年)，患风痹病，圆寂。