桓溫在退兵回荊州的路上得了重病，可他并沒有斷絕篡位的野心，又上表要求朝廷賜予他九錫的禮遇。謝安知道不能和桓溫硬頂，就反復(fù)拖延賜予九錫的文書，一直拖到桓溫病死，加九錫的事情也就不了了之。桓溫死后，謝安被任命為尚書仆射兼吏部尚書，總攬東晉的朝政。為了緩和矛盾、穩(wěn)定政局，謝安并沒有趁桓溫病死的機(jī)會(huì)對(duì)桓氏集團(tuán)下手，他仍然信任和重用桓溫的弟弟桓沖，讓桓沖擔(dān)任都督徐、豫、兗、青、揚(yáng)五州諸軍事和徐州刺史，負(fù)責(zé)鎮(zhèn)守京口（今江蘇鎮(zhèn)江）。

桓沖也深明大義，心甘情愿地為朝廷鎮(zhèn)守四方，將相的和睦穩(wěn)定了東晉的政局，人們都把謝安比作安定東晉的王導(dǎo)，而謝安的文采風(fēng)流似乎更勝王導(dǎo)一籌。

謝安理順了東晉政權(quán)的內(nèi)部紛爭(zhēng)后，開始把注意力轉(zhuǎn)移到北方強(qiáng)大起來的前秦政權(quán)。當(dāng)時(shí)前秦屢次騷擾東晉邊境，東晉朝廷開始招募有才干的將領(lǐng)。謝安知道自己的侄兒謝玄有大將之才，就向朝廷推薦了謝玄。當(dāng)時(shí)有人嘲諷謝安任人唯親，而謝安的政敵郗超卻感嘆說：“謝安能不怕譏諷，舉賢不避親，真是有古人的遺風(fēng)啊?！敝x玄果然沒有辜負(fù)謝安的推薦，他擔(dān)任廣陵太守后，招募江淮子弟和北方流民組建了北府兵，成為東晉最精銳的武裝力量。

前秦苻堅(jiān)曾率百萬軍隊(duì)南下消滅東晉，“淝水之戰(zhàn)”苻堅(jiān)大敗。兩年后，前秦內(nèi)亂，苻堅(jiān)竟請(qǐng)求仇敵東晉幫他平亂?？赡苣菚r(shí)候人心眼實(shí)在。要擱現(xiàn)在，肯定認(rèn)為他腦子進(jìn)水了。

太元八年（383），前秦主苻堅(jiān)率領(lǐng)著號(hào)稱百萬的大軍南下，準(zhǔn)備消滅東晉，統(tǒng)一天下。當(dāng)時(shí)建康城內(nèi)一片震恐，士大夫無不驚慌失措，只有謝安依然鎮(zhèn)定自若。謝安自己以征討大都督的身份負(fù)責(zé)軍事，并派了弟弟謝石、侄兒謝玄、兒子謝琰和西中郎將桓伊率領(lǐng)8萬晉軍前去抵御。負(fù)責(zé)長(zhǎng)江西線防守的桓沖擔(dān)心建康的安危，派遣3000精兵前來協(xié)助保衛(wèi)建康，卻被謝安拒絕了。謝玄對(duì)是否能擋住秦軍也沒有把握，臨行前向謝安詢問對(duì)策，謝安只回答了一句：“我已經(jīng)安排好了?！本驮僖膊徽勡娛?。

后來當(dāng)晉軍在淝水之戰(zhàn)中大敗前秦的捷報(bào)送到時(shí)，謝安正在與客人對(duì)弈。他看完捷報(bào)，便放在座位旁，不動(dòng)聲色地繼續(xù)下棋?？腿巳滩蛔査?，謝安淡淡地說：“沒什么，孩子們已經(jīng)打敗敵人了。”等到下完了棋，客人興高采烈地走后，謝安才抑制不住心頭的喜悅，連蹦帶跳地進(jìn)入內(nèi)室，結(jié)果把木屐底上的屐齒都碰斷了。

淝水之戰(zhàn)的勝利，使謝安的聲望達(dá)到了頂點(diǎn)，這讓謝安遭到了瑯邪王司馬道子的猜忌。司馬道子伙同謝安的女婿王國(guó)寶，在東晉孝武帝面前屢次挑撥離間，說謝氏權(quán)威太盛，長(zhǎng)久下去會(huì)是另一個(gè)桓溫。孝武帝本身就是一個(gè)糊涂的家伙，生怕祖宗的江山在自己手里斷送，就開始有意疏遠(yuǎn)謝安。謝安也意識(shí)到自己面臨的危險(xiǎn)局面，他逐步把自己掌握的部分權(quán)力交出，以表明自己沒有擅權(quán)的野心。

太元十年（385），前秦發(fā)生內(nèi)亂，苻堅(jiān)請(qǐng)求東晉派兵協(xié)助平亂。謝安主動(dòng)提出由自己率軍出鎮(zhèn)廣陵的步丘（今揚(yáng)州邵伯鎮(zhèn)），名義上是準(zhǔn)備援助前秦，實(shí)際上是想脫離建康這個(gè)是非之地。謝安著手建造渡海的船只，準(zhǔn)備從海道返回會(huì)稽?？纱€沒造出，謝安就患了重病，只得請(qǐng)求返回建康治病休養(yǎng)。然而謝安回到建康只有幾天，就溘然長(zhǎng)逝了，年僅66歲。謝安死后，東晉朝廷以隆重的禮儀悼念謝安，心中有愧的孝武帝還在靈堂守靈三天，并追贈(zèng)謝安為太傅。謝安用他的政治才干讓東晉政權(quán)度過了相對(duì)穩(wěn)定的30年，史書上稱他為“江左第一風(fēng)流丞相”，而百姓們則稱他為“東山賢人”。