耿飚在1925年加入中國共產(chǎn)主義青年團(tuán)，1928年轉(zhuǎn)入中國共產(chǎn)黨。

此后他擔(dān)任過中國工農(nóng)紅軍第三軍師干部教導(dǎo)隊(duì)隊(duì)長，第一軍團(tuán)團(tuán)參謀長、團(tuán)長、師參謀長。在兩萬五千里長征時，耿飚是前衛(wèi)部隊(duì)紅四團(tuán)團(tuán)長。在抗日戰(zhàn)爭中，他擔(dān)任八路軍129師385旅副旅長兼副政委和參謀長。1944年后，擔(dān)任晉察冀軍區(qū)副參謀長。

耿飚和葉劍英結(jié)下深厚友誼，是在抗日戰(zhàn)爭結(jié)束之后：1946年1月，葉劍英作為“軍調(diào)處執(zhí)行部”的中共代表前往北平，耿飚擔(dān)任中共方面交通處處長、副參謀長，與葉劍英共事。所以，耿飚成了葉劍英的部下。那時，耿飚隨代表團(tuán)住在北京飯店，而葉劍英則住在東華門附近的翠明莊。精明的耿飚居然在葉劍英住處發(fā)現(xiàn)了國民黨特務(wù)埋在地毯下的竊聽器。葉劍英把國民黨代表約到翠明莊來，耿飚當(dāng)場掀開地毯，挖出竊聽器，使國民黨代表十分尷尬……

在國共和談破裂之后，耿飚出任中共第19兵團(tuán)副司令員兼參謀長，作為“楊羅耿兵團(tuán)”的三巨頭之一，轉(zhuǎn)戰(zhàn)華北、西北。

耿飚是正兒八經(jīng)的將軍，可是，后來耿飚卻奉命“改行”，去當(dāng)外交官了。耿飚先后擔(dān)任了中國駐瑞典、巴基斯坦、緬甸大使，外交部副部長。

在“文革”中，耿飚被打入“牛棚”。

當(dāng)中共九大即將召開時，外交部的中共黨員們選耿飚為九大代表，可是外交部卻有人借口耿飚尚在“牛棚”，還在接受“審查”，把耿飚的名字從代表名單中劃掉。此事被周恩來獲知，報告毛澤東，毛澤東同意把耿飚列入中共九大代表名單。這下，耿飚也就結(jié)束了“牛棚”生活。

于是，在1969年5月，耿飚被任命為駐阿爾巴尼亞大使。

1971年1月，耿飚因病回國休養(yǎng)。病愈后，經(jīng)周恩來提議，任命耿飚為中共中央對外聯(lián)絡(luò)部部長。

耿飚為人正直，上任不久便得罪了江青。

本來，江青跟中共中央對外聯(lián)絡(luò)部沒有什么工作聯(lián)系。一樁小事，使她領(lǐng)教了耿飚的脾氣：

江青此人，頗愛攝影，又愛出風(fēng)頭。她想在《人民畫報》上開一個她的攝影專欄，不斷發(fā)表“峻嶺同志”的攝影作品?！熬X”，也就是江青的筆名。

《人民畫報》是以多種文字向世界發(fā)行的雜志，屬于外文出版社。外文出版社又屬外文局領(lǐng)導(dǎo)，而外文局則歸中共中央對外聯(lián)絡(luò)部管轄。由于江青的地位特殊，《人民畫報》打了報告向外文出版社請示，外文出版社把報告轉(zhuǎn)到外文局，外文局上報中共中央對外聯(lián)絡(luò)部，也就到了耿飚手中。耿飚認(rèn)為，《人民畫報》無此先例，江青企圖憑借她特殊的政治地位破例，不行！

消息飛快地傳進(jìn)江青的耳朵。江青為此大大地生了耿飚的氣，以致有一回在春節(jié)團(tuán)拜會上，江青逐一與參加團(tuán)拜的領(lǐng)導(dǎo)人握手，等見到耿飚時卻一扭頭！站在耿飚旁邊的李先念發(fā)覺了這一“細(xì)節(jié)”，問起耿飚來，方知為了《人民畫報》的事，江青對耿飚竟一直耿耿于懷……

當(dāng)然，《人民畫報》的事，只是小事一樁罷了。在江青看來，耿飚和外交界的姬鵬飛、黃鎮(zhèn)一樣，都是“周恩來的人馬”。所以，江青對他們很惱恨。

在粉碎“四人幫”的緊急時刻，葉劍英急調(diào)耿飚這位有著多年“文官”經(jīng)歷的武將。

耿飚后來在1998年出版的《耿飚回憶錄》中這么寫及：

（1976年10月）6日晚上8點(diǎn)來鐘，我家中的紅機(jī)子電話鈴響了，是華國鋒本人的聲音。他要我坐自己的汽車，迅速趕到中南海懷仁堂。

一進(jìn)中南海西門，我見到崗哨比平時增多了，有一種緊張的氣氛。走進(jìn)懷仁堂，看見華國鋒、葉劍英同志正與北京衛(wèi)戍區(qū)司令員吳忠等在交談。

這時我才知道，華國鋒和葉劍英在征得中央政治局多數(shù)同志同意后，已對江青、張春橋、王洪文、姚文元及其在北京的幫派骨干實(shí)行隔離審查。

華國鋒同志立即向我交代任務(wù)：“你和邱巍高（北京衛(wèi)戍區(qū)副司令員）到中央廣播事業(yè)局去，要迅速控制住電臺和電視臺，不能出任何差錯，否則后果不堪設(shè)想?！?/p>

葉帥鄭重囑咐我：“要防止發(fā)生混亂，防止泄密，注意安全?！?/p>

華國鋒同志問我：“你要不要帶支手槍？”