廉惠山海牙，字公亮，布魯海牙之孫，廉希憲之侄。其父阿魯渾海牙曾任廣德路達(dá)魯花赤。

　　廉惠山海牙年幼喪父，由母親一人撫養(yǎng)，家境貧寒，但他并不以破衣粗食為恥。二十歲時(shí)，大臣欲使他入宮禁宿衛(wèi)，他推辭，一心想?yún)⒓涌婆e考試，于是入國(guó)學(xué)讀書。至治元年(1321)，考中了進(jìn)士，授官承事郎、同知順州事。

　　在順州，有弓匠提舉馬都刺，恃勢(shì)強(qiáng)奪本州民田，同僚們也都怕他。廉惠山海牙到任后將此事按法處置。在順州任職一年，有人推薦他入史館，參與修纂《英宗實(shí)錄》和《顯宗實(shí)錄》。不久拜為監(jiān)察御史。當(dāng)時(shí)中書省有大臣貪婪無厭，廉惠山海牙上章彈劾，對(duì)同僚們說：“如果因彈劾而獲罪，那也是我的職責(zé)所在?！逼浜笥謴椲烂骼锒⒉粦?yīng)兼理祭太廟的事。任都水監(jiān)時(shí)，廉惠山海牙疏通了會(huì)通河，修建灤、漆兩河的堤壩及京東水閘。任秘書丞及會(huì)福總管府治中時(shí)，上疏指出二月迎佛是費(fèi)財(cái)敗俗，當(dāng)時(shí)輿論肯定他的正確批評(píng)。以后又歷任僉淮東廉訪司事，江浙行省左右司員外郎，僉河?xùn)|、河南、江西廉訪司事，江南行御史臺(tái)經(jīng)歷等職。山東鹽法受到破壞，特選他任都轉(zhuǎn)運(yùn)使，不到一月鹽課都按規(guī)定征收上來。

　　至正三年(1337)初，朝廷舉行郊祭禮，召廉惠山海牙回京任侍儀使。四年，參與修纂《遼史》、《金史》和《宋史》。隨后調(diào)任崇文太監(jiān)，多次出任河南行省右丞。當(dāng)時(shí)朝廷要征發(fā)民夫治理黃河河堤，騷擾各郡，廉惠山海牙上疏指出其弊端，但執(zhí)政宰臣不采納他的意見。調(diào)任湖廣行省右丞，因武昌失守而受牽連獲罪，后來把事情弄清楚了，調(diào)任江西行省右丞。

　　江西所屬郡縣多為義軍所有，廉惠山海牙與平章政事、司徒道童協(xié)力商定守御和招安之策。為時(shí)不久，義軍攻占江西行省衙門所在地，廉惠山海牙逃往福建。很久以后，任命他為江浙行樞密院事，又改任福建行省右丞。廉惠山海牙分兵鎮(zhèn)守延平、邵武。在福建一年多，除統(tǒng)籌辦理全省軍事防御外，還將該省賦稅由海道運(yùn)至京師。調(diào)行宣政院使。第二年，拜翰林學(xué)士承旨、知制誥兼修國(guó)史。年七十一歲而卒。