李素节生性聪明，非常受到高宗的喜欢。一开始他领雍州牧。后来他的母亲萧淑妃被武则天杀死后，李素节被贬为申州刺史。666年高宗下令，以李素节长年患病为理由，不再召唤李素节入京朝见。李素节因此知道武后猜忌他，因此作《忠孝论》来表明自己无罪，但这引起武后对他更加愤怒，将他流放到鄱阳。678年任命他为岳州刺史，此后又多次迁徙。690年遭诬告，被勒令入京，在龙门驿被缢死。以庶人礼被埋葬。
李素节的儿子中，九个年长的儿子李璟、李瑛、李琪、李琬、李瓒、李玚、李瑗、李琛、李唐臣全部被杀，四个年幼的儿子李琳、李瓘、李璆、李钦古被发配到雷州关押。唐中宗复位后他被恢复王位，他的儿子李瓘继承其王位。
当初，武则天还不是皇后，与李素节的母亲萧淑妃争宠，相互谮毁。永徽六年(655年)，武则天立为皇后后，萧淑妃被武则天谮毁，幽禁侮辱而被杀。李素节尤其被武则天嫉妒并时时向唐高宗进谗言，调任为申州刺史。
乾封初年(666年)，唐高宗下敕：“李素节既有旧疾病，宜不须入朝。”但李素节实际上并无疾病。李素节自己因长久未去朝见，于是写了《忠孝论》来表意。当时王府会曹参军张柬之便暗将《忠孝论》进上，武则天见了，更加不高兴，诬陷李素节受贿，降封鄱阳郡王，还是在袁州安置。仪凤二年(677年)，禁锢终身，又改迁到岳州安置。
永隆元年(680年)，转任岳州刺史，后又改封葛王。武则天临朝，又晋封许王，任舒州刺史。天授年中(691年)，他与泽王上金同被诬告，追赴京都。临启程时，李素节听有遭丧哭啼的声音，他对左右的人说：“病死都难得到，何须哭!”行至京都南龙门驿，被缢死，时年四十三岁，武则天命令以庶人礼安葬。唐中宗即位后，追封许王，追赠开府仪同三司、许州刺史，以礼改葬，陪于乾陵。