在創(chuàng)辦航運(yùn)、煤礦、鐵礦、鐵廠、電報(bào)等一系列實(shí)業(yè)的過(guò)程中，盛宣懷深切地體會(huì)到，憑一己之力，或者憑一兩商人之力，是無(wú)法畢近代工業(yè)之功的。

19世紀(jì)70年代，盛宣懷辦招商局的時(shí)候，招商局所收股金不過(guò)幾十萬(wàn)兩白銀。到19世紀(jì)90年代，招商局的輪船碼頭貨棧已經(jīng)遍布沿海沿江，資本也不過(guò)以百萬(wàn)計(jì)。而1896年他被委任為中國(guó)鐵路總公司督辦后，預(yù)算僅盧漢一條鐵路（即北京盧溝橋到漢口，后來(lái)改稱京漢鐵路）就需白銀4000萬(wàn)兩，這類需要龐大資金的實(shí)業(yè)項(xiàng)目，即使尋求社會(huì)游資，也絕不是一家一戶的銀號(hào)錢莊所能承擔(dān)的。就在這一年，他又接辦了張之洞創(chuàng)辦的漢陽(yáng)鐵廠和煤礦鐵礦。鐵廠原料要依賴鐵路，鐵路的鐵軌又要依賴鐵廠。當(dāng)時(shí)也曾有人主張向洋人銀行舉債，但是洋人銀行集款債券的買家，也多是中國(guó)富商。盛宣懷給李鴻章上稟帖說(shuō)：“豈有聚吾國(guó)商民之財(cái)付英、德、法各銀行之手，而自己則不為之料理，尚自詡足國(guó)足民，有是理乎！”所以他極力主張自己開(kāi)辦銀行。隨后他又向朝廷上奏，條陳創(chuàng)辦銀行的必要：“西人聚舉國(guó)之財(cái)為通商惠工之本，綜其樞紐皆在銀行。中國(guó)亟宜仿辦，毋任洋人銀行專我大利。”同時(shí)他又親自仿照匯豐銀行起草了擬議中的銀行章程。他在銀行章程中明確寫道：銀行“不用委員而用董事，不刻關(guān)防而用圖記，盡除官場(chǎng)習(xí)氣，俱遵商務(wù)規(guī)矩”。這表明他決心把銀行辦成一個(gè)商業(yè)銀行而不是政府的錢庫(kù)。

創(chuàng)辦銀行的過(guò)程當(dāng)然是不順利的，障礙既來(lái)自內(nèi)部，也來(lái)自外國(guó)。內(nèi)部阻力是，政府很不習(xí)慣按照市場(chǎng)規(guī)律創(chuàng)辦一個(gè)不由自己控制的銀行。外部阻力則是列強(qiáng)很不情愿中國(guó)有一家自己的銀行。當(dāng)時(shí)俄國(guó)正在籌辦俄華道勝銀行，甚至直接跑來(lái)質(zhì)問(wèn)盛宣懷，我們正在籌辦銀行，為什么你們自己辦一個(gè)華商銀行？盛宣懷斷然回答，怎么能禁止本國(guó)商人開(kāi)銀行，做生意？

光緒二十三年（1897年），盛宣懷主持的中國(guó)第一家近代銀行終于在上海正式開(kāi)業(yè)，行名定為“中國(guó)通商銀行”，額定商股500萬(wàn)兩，先收半數(shù)，另商借戶部庫(kù)銀100萬(wàn)兩?？傂性O(shè)于上海，同年在漢口設(shè)立分行，以后又在北京、天津、福州、廣州、鎮(zhèn)江、煙臺(tái)、香港、重慶、保定、九江、揚(yáng)州、蘇州、寧波等地設(shè)立分支行。其內(nèi)部管理全仿匯豐銀行，總行和各重要通商口岸分行除有中國(guó)人擔(dān)任經(jīng)理外，還聘請(qǐng)一名外國(guó)人擔(dān)任洋經(jīng)理執(zhí)掌業(yè)務(wù)經(jīng)營(yíng)大權(quán)。