早在獨立戰(zhàn)爭期間，老亞當(dāng)斯經(jīng)談判向荷蘭貸了一筆數(shù)目相當(dāng)大的貸款，以支持獨立戰(zhàn)爭和美國的信用。小亞當(dāng)斯的使命是維護美荷之間的友好關(guān)系，觀察歐洲的政局變化，并幫助美國政府逐步償清貸款。但此時歐洲的局勢急劇動蕩，在他到達荷蘭時，這里已處在拿破侖軍隊的占領(lǐng)下。第二年，他在出使葡萄牙的途中得到急電，父親已就任總統(tǒng)，任命他為駐普魯士公使。

年輕時的小亞當(dāng)斯精力充沛，感情細膩，愛情生活充滿浪漫情調(diào)。他的初戀是在法國經(jīng)歷的，他首次看到一位女演員的演出就成了她的崇拜者，但由于天生的虛榮心作怪，他始終未能當(dāng)面向她表達愛意。多少年來，她一直是他心目中最完美的形象。在婚前所接觸的女性中，他與瑪麗·弗雷澤之間的愛情最浪漫深沉。相戀時他們都在二十歲上下，相互難分難舍。但母親告訴他：過早的戀情會斷送一個有才華的年輕人的遠大前程。理智終于拆散了這對情侶。

出使歐洲時，小亞當(dāng)斯在倫敦巧遇了他的童年好友路易莎·凱瑟琳·約翰遜，遂約定了終身。路易莎時年二十二歲，身材窈窕，氣質(zhì)高雅，她的父親是美國的一位外交官兼商人，母親是一個地地道道的英國人，而她本人也出生于英國。老亞當(dāng)斯起初反對兒子與外國人結(jié)婚，但很快就轉(zhuǎn)變了態(tài)度，贊成這一婚事，所以路易莎成了美國歷史上唯一一位出生于外國的第一夫人。二人感情甚篤，婚后生活可謂幸福美滿。這一婚姻并非沒有經(jīng)歷考驗，路易莎長期患病，跟不上丈夫快節(jié)奏的生活步伐，生活方式也有很大差異，因此常郁郁寡歡，極為敏感，甚至有時產(chǎn)生幻覺，感到周圍的人在虐待她。但他們最終超越了這些障礙，恩恩愛愛生活了五十多年，養(yǎng)育了四個孩子。其中小兒子查爾斯·弗朗西斯·亞當(dāng)斯是他們的驕傲，后來成為著名的廢奴戰(zhàn)士和外交家，內(nèi)戰(zhàn)時期被林肯總統(tǒng)任命為駐英公使，在使英國對美國內(nèi)戰(zhàn)保持中立立場上發(fā)揮了重要的作用。

小亞當(dāng)斯出使普魯士四年，其間，他的政治和外交能力有了很大提高，工作成績也十分卓著，以致美國政府常常是根據(jù)他提供的情報來制定對外政策的。

1799年，他與普魯士簽署了《普魯士-美國條約》，促進了雙方的貿(mào)易往來。

1801年，小亞當(dāng)斯離任回國。這時，父親已經(jīng)卸任，小亞當(dāng)斯未能再獲得外交官職位，回波士頓重執(zhí)律師業(yè)。

1802年，他被選入馬薩諸塞州參議院。這一時期，他成了國內(nèi)政壇上最活躍的青年政治家之一，政治聲望不斷上升。

1803年，小亞當(dāng)斯在聯(lián)邦黨人的支持下當(dāng)選國會參議員，但他堅持按照自己的原則獨立行事，而不肯聽任該黨黨魁的操縱。他支持杰斐遜總統(tǒng)的重大決策，贊成路易斯安納購地和禁運（小亞當(dāng)斯之所以贊同購買路易斯安納是從國際政治的角度考慮問題的，他認為此舉將使法國在北美的勢力受到最沉重的打擊），這些舉動使他大大超越了黨派的界線，觸怒了某些黨內(nèi)強人。于是，聯(lián)邦黨領(lǐng)導(dǎo)人著手策劃把他排擠出參議院。對于同黨們的陰謀小亞當(dāng)斯早有預(yù)料，他于1808年6月毅然辭職，告別政壇，進入哈佛大學(xué)任教，充分展示他在語法修辭和語言學(xué)方面的才華。