按理说他们就算成不了好朋友，也不至于弄到形同水火的地步。曾左二人是湖南同乡，当年曾国藩在湖南办湘军时，便和左宗棠有了交往。曾国藩后来在太平天国的场子中发达起来，督两江，领四省，旗下幕僚更是人才济济，一时出现了“天下提镇无不出于曾帅”的传言，人气那是相当地旺。左宗棠虽未进士及第，但凭着自己在骆秉章那儿几年“代省长”的出色工作，此时已名满天下。自古英雄惺惺相惜，曾国藩军中自然不能漏掉了像左宗棠这样的人才，左宗棠于咸丰九年遭人陷害后虽然大难不死，但是深感官场险恶，忧心忡忡便决定暂且引退。于咸丰九年十二月二十日(1860年1月12日)离开湖南巡抚衙门，结束了他长达八年的幕府生涯。第二年闰三月二十七日(5月17日)由英山抵达宿松。
这时，胡林翼进驻英山，曾国藩扎营宿松，正准备全面进攻太平军在安徽太湖、潜山的据点。接下来的事情就很自然了。左宗棠拜见了曾国藩，便留其幕中。不久，曾国藩奉到咸丰帝的寄谕，特询：“左宗棠熟习湖南形势，战胜攻取，调度有方……应否令左宗棠仍在湖南襄办团练事，抑或调赴该侍郎军营，俾得尽其所长，以收得人之效。”曾国藩与左宗棠虽然性情、脾气并不相投，但交情颇重，对左宗棠身被诬陷十分同情，只因他贯于明哲保身，为人小心谨慎，一直未出面说情。这时，见“天心大转”，便立即回奏：左宗棠“刚明耐苦，晓畅兵机，当此需才孔亟之时，无论何项差使，惟求明降谕旨，俾得安心任事，必能感激图报，有裨时局”。
大佬就是大佬，面子那是相当地大。很快，朝廷即发下谕旨，授予左宗棠四品卿衔，帮助曾国藩办理军务。这算是左宗棠正式入仕，开始他的事业，虽然发达较晚，但是左宗棠总算是跟对了人。曾国藩这个人，过于小心谨慎，因此雪中送炭不敢，但是他却非常乐意于锦上添花，帮助其幕僚成功。如果说当左宗棠被人陷害时曾国藩不敢援救有私心，那么当左宗棠投靠曾国藩后，曾国藩却是竭尽全力为其创造机会助其成功，可见此时对左宗棠已是毫无私心。
当时清政府有意调左宗棠前往四川督办军务，曾国藩认为左宗棠是独当一面的帅才，如果去四川，只能是寄人篱下，和他当时在湖南没什么区别，于是曾国藩婉言谢绝了清廷的谕旨。而攻克安庆以后，湘军完成了对南京的包围，终于腾出手来解决浙江问题了。
而派谁去呢?这是一个问题。曾国藩再一次想到了左宗棠。曾国藩认为，左宗棠平时用兵取势甚远，审机甚微，可挑大梁，不可久居人下，埋没人才。
曾国藩不但把驻扎在赣浙边界的湘军统归左宗棠节制，而且给了他向皇帝的专奏权和征收厘金权。从此，左宗棠终于自立门户，拥有了进一步发挥自己才干的天地，踏入“封疆大吏”的行列。读者可以想象，如果曾国藩真是伪君子，真有私心，他大可以把左宗棠留在幕府中“雪藏”起来，让其有苦难言。
然而性格决定命运，性格上的巨大差异使得两人表面和善私下充满了矛盾的暗礁。曾国藩讲究个人修养，是个理学家，平时不用说，处处显得很“面”。而左宗棠个性刚直果断，慷慨激昂，是非分明，疾恶如仇。左喜欢快刀斩乱麻，曾喜欢慢工出细活，因此两人经常锣不对鼓，板不合腔。
左宗棠多次进京赶考却未及第，因此始终特别敏感，稍被人怠慢或过分谦让，都可引起激烈的反应，而且言词辛辣，甚至狠毒。有一次曾国藩在给左宗棠的信札中，出于谦让，用了“右仰”这样的客套话，左宗棠很是不快，说道：“他写了‘右仰’，难道要我‘左俯’不成!”
曾国藩曾作一语调侃左宗棠：“季子敢鸣高，与予意见大相左。”将左宗棠的姓(左)和字(季高)都嵌入进去，寓庄于谐，既切事，又达意，略无雕琢，浑然天成。
左宗棠却受不了这一“恶补”，甚至有点恼羞成怒，便决意在气势上凌轹对方，因而打出一记刚猛的重拳：“藩臣徒误国，问他经济有何曾?”也将曾国藩的姓(曾)和名(国藩)嵌入首尾。二语合璧，恰成一副绝对。虽然对得工整，但是言语却显恶毒。天长日久，嫌隙渐生。