當(dāng)反英獨(dú)立的革命風(fēng)暴沖擊北美大陸時(shí)，馬歇爾毅然告別了平民生活，加入到革命斗爭(zhēng)的行列之中。

1775年春天，馬歇爾參加了當(dāng)?shù)氐拿癖M織，在弗吉尼亞打擊英國(guó)軍隊(duì)。后來，他參加了大陸軍，轉(zhuǎn)戰(zhàn)各地，先后參加了布蘭迪萬、福吉谷、日耳曼敦等戰(zhàn)役，在歷次軍事行動(dòng)中均有突出表現(xiàn)，軍職不斷晉升。艱苦的戰(zhàn)斗歲月鍛煉了他的毅力和品格，也增強(qiáng)了他的領(lǐng)導(dǎo)和決斷能力。此時(shí)期他給人的印象是性格堅(jiān)強(qiáng)執(zhí)著，辦事果敢有效率，但比較刻板。

1780年，馬歇爾退役。他決定繼續(xù)學(xué)習(xí)法律專業(yè)，不久，便進(jìn)入了威廉·瑪麗學(xué)院，師從托馬斯·杰斐遜當(dāng)年的老師喬治·威思先生。在當(dāng)時(shí)，弗吉尼亞律師協(xié)會(huì)對(duì)從業(yè)人員的要求極高，但由于馬歇爾為人忠誠(chéng)，業(yè)務(wù)能力過人，所以很快就取得了律師資格。

1782年初，馬歇爾移居里士滿。同年與瑪麗·安布勒小姐喜結(jié)良緣。婚后夫妻感情甚篤，家庭生活穩(wěn)定而幸福。就在這一年，馬歇爾被選入州立法議會(huì)，他的律師業(yè)務(wù)也開展得十分紅火，很快就成為當(dāng)?shù)芈蓭熃绲木ⅰ?/p>

這時(shí)期，馬歇爾的聯(lián)邦主義政治傾向日益明顯。他根據(jù)自己的軍人生涯和邦聯(lián)體制的弊端，深切感到建立聯(lián)邦制國(guó)家的必要性，因此積極支持1787年費(fèi)城《聯(lián)邦憲法》。此后，他成為弗吉尼亞批準(zhǔn)憲法運(yùn)動(dòng)的領(lǐng)導(dǎo)人之一，對(duì)于聯(lián)邦憲法在該州的批準(zhǔn)起了重要作用。出于對(duì)司法權(quán)的高度重視，此間他反復(fù)強(qiáng)調(diào)司法權(quán)對(duì)立法權(quán)的制約作用，因此在法律界贏得了聲譽(yù)。

聯(lián)邦政府建立后，馬歇爾的觀點(diǎn)與聯(lián)邦黨人十分相近，支持亞歷山大·漢密爾頓的一攬子經(jīng)濟(jì)計(jì)劃。但由于個(gè)人財(cái)務(wù)等問題，他沒有接受政府對(duì)他的一些重要任命。約翰·亞當(dāng)斯總統(tǒng)任內(nèi)，美法矛盾尖銳，亞當(dāng)斯總統(tǒng)派馬歇爾參加一個(gè)赴法使團(tuán)，試圖解決兩國(guó)分歧。馬歇爾接受了任命。但督政府外交部長(zhǎng)塔列朗沒有與使團(tuán)見面，而是派來幾個(gè)說客羞辱性地誘使美國(guó)人向法國(guó)行賄，而后才能進(jìn)行談判。美國(guó)人拒絕了（但也有史學(xué)家通過研究認(rèn)為，如果當(dāng)時(shí)法國(guó)人同意談判期間停止在海上捕獲美國(guó)船只，美國(guó)人是同意行賄的）。馬歇爾以高傲的姿態(tài)回絕了法國(guó)人的索賄要求，然后憤而離境，其正義言行得到了國(guó)人的交口稱贊。

1799年，在帕特里克·亨利的大力支持下，馬歇爾當(dāng)選為國(guó)會(huì)議員。在國(guó)會(huì)中，他是亞當(dāng)斯總統(tǒng)最堅(jiān)定的支持者之一，雖然他此時(shí)的某些主張與聯(lián)邦黨人不盡相同。

出任國(guó)務(wù)卿 1800年6月，在友人的再三勸說之下，馬歇爾終于接受了亞當(dāng)斯總統(tǒng)的任命，出任美國(guó)國(guó)務(wù)卿一職。此時(shí)，美法關(guān)系不斷惡化，法國(guó)私掠船不斷在公海上掠奪美國(guó)商船，以漢密爾頓為首的新英格蘭聯(lián)邦黨人主張對(duì)法宣戰(zhàn)。馬歇爾雖然具有親英傾向，但支持亞當(dāng)斯總統(tǒng)繼續(xù)執(zhí)行中立政策，設(shè)法通過外交途徑解決爭(zhēng)端。1800年9月，美國(guó)派出新的外交使團(tuán)赴法談判，簽訂了和約，宣布廢除1778年美法同盟條約，重申公海自由的原則，從而結(jié)束了一場(chǎng)一觸即發(fā)的戰(zhàn)爭(zhēng)危機(jī)。這一條約是美國(guó)孤立主義外交的體現(xiàn)，使美國(guó)遠(yuǎn)離了歐洲的紛爭(zhēng)，但它卻造成了聯(lián)邦黨內(nèi)部嚴(yán)重的分裂。馬歇爾還促成了與西班牙等歐洲國(guó)家的談判，以穩(wěn)定美國(guó)的對(duì)外貿(mào)易。這一條約也表明了法國(guó)對(duì)美國(guó)政策的轉(zhuǎn)變，即不再試圖控制美國(guó)，或利用美國(guó)對(duì)抗英國(guó)。