美國制定《聯(lián)邦憲法》時，杰斐遜把它與法國大革命進(jìn)行了對比，因此他的第一反應(yīng)是反感和疑慮，擔(dān)心這部“保守的憲法”會動搖美利堅民族的民主理想和共和國大廈的基石。他指出，總統(tǒng)可以連任的規(guī)定會產(chǎn)生“荷蘭式的國王”（意即終生制）。所幸的是，美國政壇中的兩派迅速彌合了分歧，決定制定《權(quán)利法案》作為憲法的補(bǔ)充。聞知此訊后，杰斐遜才轉(zhuǎn)變了態(tài)度。

國務(wù)卿 杰斐遜原想卸任后即退隱蒙蒂賽洛，但華盛頓盛情邀請他出任首任國務(wù)卿之職。在紐約，他深刻感受到了政治腐敗和官僚主義氣息，驚異地發(fā)現(xiàn)，許多上層人士竟主張建立英國式的政體。他對華盛頓講究禮節(jié)和尊嚴(yán)的貴族派頭也表現(xiàn)出極大反感。

上任伊始，杰斐遜受到總統(tǒng)的極大信賴，工作成效十分顯著。他組建了國務(wù)院，不僅主持外交工作，而且還分管許多國內(nèi)事務(wù)，如管理領(lǐng)地、保管國家文獻(xiàn)、與聯(lián)邦法院聯(lián)系、掌管國璽、普查人口、鑄幣等?？梢哉f，美國的外交工作是在杰斐遜的謀劃和指導(dǎo)下起步的。那時國務(wù)院的規(guī)模很小，只有七個半工作人員，辦公室設(shè)在百老匯的一間不大的房間里，辦公經(jīng)費(fèi)也少得可憐，所以杰斐遜的工作比較忙碌，許多事情都要事必躬親。這似乎成了一種傳統(tǒng)，一直延續(xù)到林肯時代。但縱觀此時期的國務(wù)卿，大都是出類拔萃之輩，其中有六個人后來當(dāng)上了總統(tǒng)。

這時期，杰斐遜與財政部長亞歷山大·漢密爾頓的關(guān)系還算融洽，甚至兩人搞過一筆“交易”：漢密爾頓的財政政策的要點(diǎn)之一是由聯(lián)邦償還州債，但在眾議院受到了阻滯，于是求助于威望極高的杰斐遜。杰斐遜在未了解詳情的情況下應(yīng)允了，但提出了一個交換條件：漢密爾頓必須支持他的遷都計劃（即把首都遷至弗吉尼亞的喬治敦）。最終，雙方皆大歡喜。

杰斐遜主張遷都還有其更深層的設(shè)想：把首都從一座已經(jīng)定型的、人口混雜的、具有市儈氣的城市遷出，重新設(shè)計建造一座新城，以體現(xiàn)美利堅民族的精神風(fēng)貌和美好未來。

在外交方面，起初杰斐遜與漢密爾頓的矛盾并不大，他們都贊同美國在外交方面實(shí)行中立化原則，只是在實(shí)施的具體方式上有不同的主張。

但是，因?yàn)榻莒尺d與漢密爾頓在政治原則和國內(nèi)外一系列重大問題上的觀點(diǎn)截然不同，所以不久就分道揚(yáng)鑣了。漢密爾頓是個貴族政治論者，十分崇尚英國的政治體制，主張在美國實(shí)行君主立憲制；而杰斐遜則一向大力倡導(dǎo)民主政治，對君主制和世襲制抱厭惡的態(tài)度，反對等級特權(quán)。漢密爾頓奉行償還公債政策，主張加強(qiáng)對英貿(mào)易，以維護(hù)大資產(chǎn)階級的利益；杰斐遜則熱愛土地和在土地上勞動的人民，要求國家保護(hù)農(nóng)業(yè)利益，反對漢密爾頓的財政方案，主張廣泛發(fā)展與各國的經(jīng)濟(jì)交往，改變嚴(yán)重依賴英國的殖民地經(jīng)濟(jì)。漢密爾頓厭惡法國革命，主張實(shí)行親英外交；杰斐遜同情法國革命，但他從美國的實(shí)際利益出發(fā)，支持華盛頓的中立政策，以避免卷入歐洲的紛爭。二人在諸多問題上產(chǎn)生的分歧和沖突，使華盛頓政府不時出現(xiàn)危機(jī)，并促進(jìn)了黨派精神的萌發(fā)，即使是華盛頓的權(quán)威和聲望，也未能阻止政黨政治的迅猛發(fā)展。