胡林翼和左宗棠之間的關(guān)系集合了世交、同學(xué)（同為賀熙齡的學(xué)生）、朋友、姻親、精神同盟者五種關(guān)系。胡林翼對(duì)于左宗棠尊敬有加，特別是左宗棠成了他的長(zhǎng)輩之后，經(jīng)常以長(zhǎng)輩相稱，但左宗棠卻嚴(yán)厲禁止兒女以平輩對(duì)待胡林翼，必須稱其為先生。

左家與胡家也是姻親關(guān)系。1856年胡林翼的妹妹胡同芝嫁給了左宗棠的二哥左宗植的長(zhǎng)子，胡林翼稱呼左宗棠為“丈”并不過(guò)分，但從朋友關(guān)系上講，左宗棠一直稱呼其為“兄”也屬正常。

胡林翼不但在仕途上給左宗棠以幫助，在生活上也屢次接濟(jì)左宗棠，更在為官之道上提點(diǎn)左宗棠。然而，由于兩人出身、經(jīng)歷和性格等方面的不同，左宗棠并沒(méi)有成為胡林翼希望成為的人。但也許正是因?yàn)檫@一點(diǎn)，在胡林翼眼中的左宗棠才是一位勇于開(kāi)創(chuàng)、敢為天下先的人。正是這些原因，胡林翼才盡力拉攏左宗棠成為鐵三角中的一級(jí)，更將其推上了核心的地位。

在左宗棠成為幕府師爺?shù)哪嵌稳兆永?，湘軍其?shí)已經(jīng)形成了鐵三角。左宗棠作為湘軍的大后方，負(fù)責(zé)糧草的運(yùn)籌、兵源的供給、坐鎮(zhèn)湖南大本營(yíng)，居后左右相助，兩翼分別是胡林翼在湖北、曾國(guó)藩在江西。隨著樊左互控之后，左宗棠脫離幕府，幫助曾國(guó)藩籌建湘軍之日起，胡林翼便在其后籌劃左宗棠勢(shì)力的發(fā)展。

鐵三角之所以誕生，其第一功勞就是胡林翼。左宗棠在1860年2月因?yàn)榉蠡タ販?zhǔn)備前往北京參加會(huì)考，半路被胡林翼派人攔截，將其送到曾國(guó)藩的駐地宿松軍營(yíng)。5月胡林翼也趕來(lái)。湘軍諸統(tǒng)帥首次聚首，探討湘軍未來(lái)發(fā)展。此時(shí)的湘軍分為四大勢(shì)力：曾國(guó)藩的湘軍、羅澤南（1807-1856）學(xué)生王鑫等人的老湘軍、胡林翼的鄂軍、湖南留守部隊(duì)。當(dāng)時(shí)左宗棠還沒(méi)有自己的嫡系部隊(duì)。

從廣泛意義上說(shuō)，江忠源（1812-1854）的楚勇、老湘軍以及左宗棠日后創(chuàng)立的嫡系部隊(duì)楚軍，都可以被稱為湘軍。楚勇被視做湘軍的雛形，老湘軍則是羅澤南戰(zhàn)死后，其學(xué)生部分跟隨曾國(guó)藩，部分則脫離曾國(guó)藩自成系統(tǒng)，王鑫、劉松山等人的隊(duì)伍便自稱老湘軍。