鼎芬雖官居翰林，卻極為迷信。同里李文田擅相面，斷言鼎芬活不過(guò)二十七歲。鼎芬大駭，討教偷生之法。文田云：唯有奇禍可解。眼看“大限”將至，恰逢中法戰(zhàn)爭(zhēng)爆發(fā)，北洋大臣李鴻章一味主和，清廷于光緒十年（1884年）五月與法國(guó)簽訂《中法簡(jiǎn)明條約》，不敗而敗，舉世嘩然。鼎芬聞?dòng)?，立即疏劾李鴻章，斥其辱?guó)投降，犯六款可殺之罪，請(qǐng)明正典刑，以謝天下。朝野震驚，果然釀成“奇禍”，慈禧雌顏大怒，于光緒十一年（1885年）六月將鼎芬連降五級(jí)，任太常寺司樂(lè)，成為空前絕后的“從九品翰林”，翌年復(fù)因被劾而罷官。

光緒二十六年（1900年）義和團(tuán)乍起于山東河北等地，鼎芬心急如焚，連續(xù)致電各大官僚，“諄諄以剿匪為請(qǐng)”。八國(guó)聯(lián)軍兵臨北京，慈禧挾光緒帝倉(cāng)皇西竄，鼎芬首倡向逃往西安的“二圣”呈進(jìn)食物、藥品等，因而深得飽嘗流離之苦的慈禧太后好感，嗣經(jīng)湖北學(xué)政王同愈奏薦，鼎芬于當(dāng)年十二月得賞還“翰林院編修”原銜之恩典。次年三月，張之洞又上《保薦人才折》，稱(chēng)鼎芬品行好、才力強(qiáng)，建議送部引見(jiàn)，優(yōu)與錄用。不久，鼎芬被任命為武昌知府，旋又升任湖北安襄鄖荊道。在此期間，鼎芬還兼任新軍參謀所、執(zhí)法所提調(diào)、學(xué)務(wù)處總提調(diào)，參與編練新軍，創(chuàng)辦省城警察，管理湖北學(xué)務(wù)，成為張之洞得力助手，人稱(chēng)“小之洞”。他積極籌辦新式學(xué)堂，不僅親自創(chuàng)辦了府道兩級(jí)師范學(xué)堂，而且還捐俸一萬(wàn)元開(kāi)辦省師范學(xué)堂。然重新出仕，仍舊習(xí)不改。光緒三十二年（1906年）八月，鼎芬升任湖北按察使。于翌年專(zhuān)折奏陳預(yù)備立憲，隨后上疏彈劾慶親王奕劻和直隸總督袁世凱，揭露奕劻“通賕賄”，稱(chēng)“請(qǐng)?jiān)陆o銀三萬(wàn)兩以養(yǎng)其廉”；指斥袁世凱“權(quán)謀邁眾”、“引用私黨”，并抨擊袁世凱的親信內(nèi)外大臣榮慶、徐世昌等八人。為此又遭斥責(zé)，鼎芬憤而掛冠，揚(yáng)長(zhǎng)而去。因此得“梁瘋子”綽號(hào)，朝野刮目相看。