谭震林于1925年参加革命，1926年加入中国共产党，1927年冬在茶陵县任井冈山革命根据地第一个县级工农兵政府主席和中共县委书记，此后历任中共湘赣边界特委书记、红四军第二、第四纵队政委、红一军团第十二军政委，1932年任福建军区司令员，中央红军长征后留在闽西任军政委员会军事部部长、副主席，与张鼎丞、邓子恢一起,在极端困难的条件下，坚持了3年艰苦卓绝的敌后战争，保持了拥有十万人口的革命根据地。
闽西：“三年的苦斗有很大的功绩”
1932年6月，福建军区成立，谭震林任司令员兼政委。他领导了闽西红军和地方武装英勇抗击敌人的第四次“围剿”，创建了主力红军与各级地方武装密切配合的人民武装体系，反复动员人民，积极训练新兵，开展比武活动，优抚红军家属，仅军区建立之初的四个月内就“扩红”11000余人，不仅壮大了闽西地方红军，还为中央主力红军输送了大批有生力量。
1934年10月，主力红军长征后，谭震林留在福建担任闽西南军政委员会副主席、军事部长。当时，国民党在闽西南投下几十倍于红军游击队的兵力，对苏区进行反复的“清剿”；又下令砍伐红军游击队经常出没的山林，采取“移民并村”、“保甲连坐”、“自首自新”、“五光十杀”等高压手段，妄图切断群众与红军游击队的联系；推行“计口购粮”、“计口售盐”的封锁政策，妄图困死饿死红军游击队。
在如此极端险恶的环境里，谭震林和张鼎丞、邓子恢等领导同志一起，创造性地运用和发展了游击战争的战略战术，指挥闽西南各地游击队，“隐蔽窥伺敌人，分散迷惑敌人，埋伏消灭敌人，突击战胜敌人”，化整为零，出奇制胜，使穷凶极恶的来犯之敌陷于“死伤、消耗、疲惫”的困境而一筹莫展。历时三年的艰苦卓绝的游击战争，巩固了10万人口的革命根据地，保卫了土地革命的成果，使武夷山红旗不倒。因此，张鼎丞、邓子恢、谭震林被人们誉为“南方三杰”。
1937年春夏，毛泽东在延安接见闽西南军政委员会政治部主任方方时说：“你们坚持三年游击战争，保留了这么多干部，保留和发展了部队，保留了20万亩土地，保卫了苏区广大群众的利益，这是伟大的胜利！”“你回去问候张、邓、谭各同志好！你告诉他们：你们三年的苦斗有很大的功绩。”
苏南：“站稳两脚，伸开两手”
1938年春天，南方八省红军游击队改编为新四军开赴抗日战场，谭震林受命担任新四军第三支队副司令员、政委。
新四军建立不久，陈毅、粟裕即率领部队挺进苏南，创建了以茅山为中心的苏南抗日根据地，并派出叶飞率部东进，开辟了无锡至江阴公路以东抗日游击地区（简称苏南东路地区），发展了抗日力量。
1939年秋，叶飞率主力北渡长江后，苏南东路地区仅留下了几十个新四军的伤病员和少量游击队坚持原地斗争，在敌、伪、顽三面夹击下，形势十分险恶。1940年5月，谭震林受命于危难之际，奉调进入苏南东路地区主持党政军工作，任江南人民抗日救国军东路指挥部司令员兼政委。
谭震林化名林俊，头戴礼帽，身穿长衫，打扮得像个经商的“老板”一样，带领一批干部化装从皖南出发，进入苏南东路地区后，迅速同地下党及游击队取得联系。当他了解到群众抗日情绪极高，“灰色”武装不能振奋人心，便果断地摒弃了那套地下斗争的“秘密方法”，公开打出共产党的旗号，领导制订了《东路抗战十大工作纲领》，发表了《关于东路抗战形势与任务的宣言》，更放手发动群众，创建各级抗日政权，开展抗日统一战线工作，巧妙地把井冈山、闽西南的经验运用于水网平原的游击战争。
仅半年时间，谭震林就把部队从400多人发展到4000多人，并普遍建立起自卫会、办事处等代政权性质的机构，同时发展和加强了党的地方组织，形成一派蓬勃发展的新局面，在敌人的鼻子尖下燃起了熊熊的抗日烈火，使苏南东路地区抗日根据地像一把钢刀插入日寇心脏。
“皖南事变”爆发后，谭震林再次受命于危难之际，奉命出任新四军第六师师长、政委，兼任江南区党委书记，成为苏南抗日的领袖人物。这时，日寇在无锡至江阴公路以西地区（简称苏南西路地区）的太滆、茅山一带进行大“扫荡”，大片根据地被敌人蚕食。
在这一关键时刻，谭震林由苏南东路地区到了苏南西路地区。他一到苏南西路地区，就立即整编队伍，进行战斗动员，指挥部队开展对敌斗争，尤其是他在溧阳县黄金山附近坐镇指挥的三次自卫反击战，以少胜多，三战三捷，极大地鼓舞了士气，振奋了民心，使苏南西路地区的抗日革命根据地得到巩固和发展。当时，他形象地把东路地区和西路地区比喻为“站稳两脚，伸开两手”：“站稳两脚”，华中抗日根据地就巩固了；“伸开两手”，浙江、皖南等地的抗日局面就打开了。由于谭震林率部胜利地保卫了整个苏南抗日根据地，从而有力地支援了苏中、苏北抗日根据地的建立和巩固。谭震林在这一时期创立的许多英雄业绩，直至如今还一直在苏南广大群众中传颂。
1941年11月，苏南西路地区主力十六旅在溧阳城以北的塘马遭到日寇偷袭，旅长、政委壮烈牺牲。这时，谭震林已到苏中江都、高邮、宝应地区领导开辟新区的工作。当他一听到这一不幸消息后，主动向新四军军部请求回苏南兼任十六旅旅长。他一到那里，就发动干部、战士总结塘马战斗失利的经验教训，鼓舞士气，重新向敌人展开英勇顽强的斗争，以果断的行动保卫了以茅山为中心的抗日革命根据地。有一段时间，谭震林还被任命为新四军第一师（师长粟裕）政委和新四军（军长陈毅）政治部主任，成为粟裕、陈毅的好帮手。