1898年蔡元培回鄉(xiāng)任紹郡中西學(xué)堂總理。在紹興，這是唯一的一所新式學(xué)堂。蔡元培提倡新學(xué)，增加日語、法語，還開設(shè)化學(xué)、物理、生物等科。這是他人生中的第一次教育改革。

后接任北大校長、領(lǐng)導(dǎo)北大17年的蔣夢麟，就是學(xué)堂當(dāng)時(shí)的小學(xué)生。據(jù)蔣夢麟回憶：“這是我了解科學(xué)的開端?！彼谝淮卧趯W(xué)堂里知道了地圓說，知道了大地不是平的；他也第一次知道閃電是陰電和陽電撞擊的結(jié)果，而非電神鏡子里發(fā)出的閃光；他更是第一次知道了雨不是巨龍?jiān)谠贫藦埧趪娝纬傻摹?/p>

蔡元培引進(jìn)新派知識(shí)分子，守舊派到校董徐樹蘭處告狀。徐樹蘭讓蔡元培抄錄皇帝要求遵守舊禮教等上諭，掛于辦公室。蔡元培說，我來這里辦教育，如果還是你這一套，我來干什么，我還是待在翰林院好了。于是辭職而去。這是蔡元培人生中第一次為了堅(jiān)持原則而辭職。

在紹興遇阻，蔡元培到了上海，1901年秋，擔(dān)任南洋公學(xué)總教習(xí)。此時(shí)的他不再是一位滿清翰林，而是一個(gè)激進(jìn)的革命者。他興辦愛國學(xué)社、愛國女學(xué)，斷發(fā)習(xí)兵操，親自試制炸藥，發(fā)起拒法、拒俄運(yùn)動(dòng)，參與軍國民教育會(huì)暗殺團(tuán)。蔡元培是光復(fù)會(huì)會(huì)長，也是同盟會(huì)上海掌門人。武裝反清和發(fā)展教育耗費(fèi)了他全部精力，當(dāng)時(shí)蔡元培在紹興老家的兒子阿根病重，同時(shí)上海學(xué)校若籌不到款就要倒閉，最終他還是走上去青島的籌款路，親生兒子則因病重而夭折。

1903年蔡元培去青島學(xué)德語，有種說法是他要去德國學(xué)軍事，因?yàn)樗杏X革命活動(dòng)總沒效果。

1903年夏，“蘇報(bào)案”發(fā)生后，蔡元培又因言論激進(jìn)被清政府通緝。這期間他放棄了去日本公費(fèi)留學(xué)的機(jī)會(huì)，直到1907年，四十不惑的蔡元培方才 “半傭半丐”游學(xué)德國。

1912年元月，蔡元培以開國元?jiǎng)椎纳矸莩鋈沃腥A民國臨時(shí)政府教育總長。

當(dāng)時(shí)民國剛成立，什么都沒有，甚至沒有辦公室，蔡元培便帶了幾個(gè)手下，在南京滿街找地方辦公。

就在如此簡陋的辦公環(huán)境下，蔡元培頒布《普通教育暫行辦法》，主持制定《大學(xué)令》、《中學(xué)令》，并奠定了從幼兒園到小學(xué)、初中、高中，乃至大學(xué)研究院的中國現(xiàn)代教育體制。

同年7月，因不滿袁世凱專權(quán)，蔡元培提出辭職。

就在這么短時(shí)間，他讓民國教育有了好的開端，整個(gè)規(guī)劃藍(lán)圖非常前沿。他提出了“五育”（軍國民教育、實(shí)利主義教育、公民道德教育、世界觀教育、美感教育）并舉的教育方針和“尚自然”、“展個(gè)性”的兒童教育主張?！拔逵敝?，實(shí)利主義教育很重要，目的是培養(yǎng)實(shí)際發(fā)揮作用的人才。軍國民教育是讓羸弱的國家，在武力上強(qiáng)大起來。而比較關(guān)鍵的是世界觀教育。康德哲學(xué)著作《判斷力批判》指出，人只有認(rèn)識(shí)到看不到的本體世界，才能超越現(xiàn)象世界，到達(dá)美的世界。蔡元培希望通過世界觀教育，讓國人對生活有更高層次的追求。

“大風(fēng)雪中來此學(xué)界泰斗”

1916年11月8日，蔡元培一路風(fēng)塵從法國抵達(dá)上海，但迎接他的并不是革命的號(hào)角。他接連收到兩個(gè)噩耗：昔日的同盟會(huì)首領(lǐng)黃興和西南護(hù)國軍將領(lǐng)蔡鍔相繼去世。意外的打擊，使得正謀劃復(fù)興的革命黨人突然墮入一片悲哀之中，這也為蔡元培的北上之行籠上一層陰霾。

在上海，他見到了孫中山并征詢他的意見。孫中山非常支持他去北大任校長。孫中山的意見是：如果你去北大做校長，有利于革命思想向北方傳播。中山先生的支持和囑托堅(jiān)定了蔡元培任職北大、改造北大的決心，后來還用“我不入地獄，誰入地獄”來表明自己毅然決然的態(tài)度。

1916年12月22日，帶著中山先生交與的使命，抱著整頓、改革北大的宗旨和決心的蔡元培迎難北上赴任。

臨行前，上海的《民國日報(bào)》特別發(fā)表詩作送別：

居官三月掉頭去，