跟隨羊祜后，王濬開始屢建功勛。他最初在羊祜軍中擔(dān)任的“參軍”一職，主要負(fù)責(zé)整頓軍隊紀(jì)律。在這個職務(wù)上，王濬依然鐵面無私，甚至連跟隨羊祜征戰(zhàn)多年的名將們也不姑息。這等于是不給羊祜“面子”，但沒面子的羊祜，反而很高興，對王濬大力提拔，先做了從事中郎，后來又當(dāng)上了巴郡太守。當(dāng)時的巴郡，就是現(xiàn)在的四川重慶，與東吳的領(lǐng)地接壤，是西晉重要的戰(zhàn)略要地。能執(zhí)掌如此重要的地方，自然是因為羊祜對王濬的賞識。不過，王濬上任后才知道，這賞識是有條件的：巴郡，是當(dāng)時西晉邊鎮(zhèn)中最麻煩的地方。

在西晉統(tǒng)一中國之前，作為西晉邊境的巴郡，主要特點就一個字：亂。常年的戰(zhàn)爭，讓當(dāng)?shù)匕傩湛嗖豢把?，與東吳接壤的地區(qū)，幾乎打成了無人區(qū)，老百姓大量逃亡，土地大片荒蕪?？蛇@還不算最麻煩的，最麻煩的是當(dāng)?shù)爻掷m(xù)很久的“棄嬰”風(fēng)。由于長期戰(zhàn)亂，巴郡老百姓的負(fù)擔(dān)非常重，尤其是要承受頻繁的兵役，家家戶戶都有人戰(zhàn)死沙場。為了逃避兵役，大多數(shù)家庭都不愿意生男孩。那時候沒有先進(jìn)的流產(chǎn)避孕技術(shù)，所以生了男孩的家庭，孩子生下后好多都不聲張，偷偷扔掉。甚至到了后來，在巴郡通往外界的要道上，每走一段，都能看到路邊被拋棄的男嬰，這樣的局面，可以說是人心思亂。

巴郡外面的麻煩也不少，當(dāng)時的重慶地區(qū)，還處于漢夷雜居的時期，巴郡的周邊有許多少數(shù)民族部落，因為經(jīng)濟(jì)窮困，經(jīng)常騷擾巴郡百姓。鎮(zhèn)守在當(dāng)?shù)氐奈鲿x軍隊，也時常仗勢欺人，劫掠周圍的少數(shù)民族部落，從曹魏平滅蜀國開始，幾十年來，當(dāng)?shù)剀婈犈c少數(shù)民族之間的械斗就從未間斷過。政府窮，老百姓苦，戰(zhàn)亂多，這就是初任地方官的王濬，面臨的亂如麻的局面。

但王濬不怕，在河?xùn)|做官的時候，皇親國戚都不放在眼里，巴郡的麻煩又算什么。不過他一反當(dāng)初打擊腐敗時候的苛刻做法，在巴郡當(dāng)?shù)亍盀檎詫挕?，甚至還出臺了中國歷史上最早的“獎勵生育”政策，規(guī)定凡是家里有男孩的，國家都給予獎勵，生男孩的家庭，國家還承擔(dān)部分生活費用，并且減免賦稅。對于之前當(dāng)?shù)匕傩招枰?fù)擔(dān)的各種賦稅，他也大量減免。如此一來，當(dāng)?shù)氐闹刃蚝芸彀捕ㄏ聛怼?/p>

對待老百姓寬容的王濬，對待貪污腐敗依然不手軟，在巴郡擔(dān)任太守的時候，他多次懲治腐敗官員。那時候，當(dāng)?shù)氐能妼⒔?jīng)常搶占老百姓的土地，王濬到來后，對巴郡周圍的土地重新進(jìn)行清查，凡屬侵占的一律還給原主。就這樣短短幾年，飽受戰(zhàn)亂之苦的巴郡，逃亡難民紛紛回歸，人口土地大為增加，僅國家可以收取賦稅的自耕農(nóng)土地，在他在任的幾年里，竟然整整增加了4倍，人口也增加了3倍。不但巴郡老百姓安居樂業(yè)，就連對面“敵國”東吳的百姓，也紛紛歸附到巴郡。在他擔(dān)任巴郡太守的最后一年，東吳歸附巴郡的百姓數(shù)量，竟然有3萬多人，對于志在一統(tǒng)天下的西晉王朝來說，此舉自然起到了“統(tǒng)戰(zhàn)”的作用。

因為治理巴郡政績卓著，王濬很快就在西晉政壇里冒頭，之后他又擔(dān)任了廣漢太守。廣漢，就是今天的四川遂寧，在廣漢太守任上，王濬干了一件差點給他帶來殺身之禍的事。公元272年，益州軍官張弘造反，殺掉了益州刺史司馬晏，并派兵大規(guī)模進(jìn)攻廣漢。當(dāng)時王濬雖然手握重兵，但西晉軍制規(guī)定，調(diào)動軍隊需要有朝廷的命令，否則一兵一卒也不能調(diào)動，叛亂十萬火急的局勢下，王濬當(dāng)機立斷，不等朝廷下令，就擅自調(diào)動了廣漢駐軍平叛。這時候的廣漢駐軍，在王濬長期嚴(yán)格訓(xùn)練下，戰(zhàn)斗能力很強，張弘雖然在兵力上有絕對優(yōu)勢，卻被摧枯拉朽地平定。事后，有官員指責(zé)王濬的做法，但是在老領(lǐng)導(dǎo)羊祜的維護(hù)下，王濬還是得到了封賞，被封為關(guān)內(nèi)侯，并順?biāo)浦?，封他為益州刺史。益州刺史，是?dāng)時中國大西南最位高權(quán)重的地方官，它的轄區(qū)包括今天四川大部以及云南、廣西、西藏的部分地區(qū)，可謂是“西南王”。

在這個職務(wù)上，王濬依然延續(xù)自己的“狠毒”之風(fēng)，不過對象變了，主要不是貪官污吏，而是當(dāng)?shù)氐母鞣N“邪教”。當(dāng)時的益州地區(qū)，雖然是西晉一部分，但是這個地區(qū)，開始并未受到西晉政府的重視，居住在當(dāng)?shù)氐拇蟛糠质沁w徙過來的北方農(nóng)民。由于統(tǒng)治松散，在蜀漢政權(quán)滅亡后，各種散布怪力亂神的邪教組織紛紛活動，他們在當(dāng)?shù)仄垓_鄉(xiāng)民，成立教派，拉幫結(jié)派，奸淫婦女，甚至互相攻打策動叛亂，先前的張弘反叛，也是由當(dāng)?shù)氐慕膛刹倏v。對這種問題，之前的政府部門大多睜一只眼閉一只眼，樂得無事。王濬是個眼里不揉沙子的人，他到任后立刻取締各種邪教，對邪教徒們的犯罪進(jìn)行打擊。不過他并不只是“高壓”，為了徹底根除邪教，他還對邪教頭子們進(jìn)行了公開審判，宣布其罪惡，揭穿各類邪教的騙人把戲。他甚至組織了“宣傳隊”，在各個村莊中來回走訪，可以說是“幫助群眾破除封建迷信思想” 。同時他大搞“精神文明建設(shè)”，由官府出錢在當(dāng)?shù)卦O(shè)立學(xué)堂，從中原禮聘教師前來講學(xué)，即“重教化”。此舉對于整個四川的歷史都有重要影響。從東漢末年戰(zhàn)亂開始，四川地區(qū)人口增多，魚龍混雜，當(dāng)?shù)貏觼y不止，文化極其落后，王濬此舉，讓儒家文化重新在四川大地傳播開來，無論對四川的人心穩(wěn)定，還是文化發(fā)展，都有著重要意義。

多年以來的出色政績，讓王濬成了當(dāng)時西晉的“優(yōu)秀地方官”，也因此被調(diào)任“大司農(nóng)”。他離開前，因為在益州威望頗高，當(dāng)?shù)匕傩湛嗫嗤炝?，沿著四川的群山峻嶺一路相送，有的老百姓居然從成都一路跟到了重慶。這次他被提拔，同樣是因為得到了老領(lǐng)導(dǎo)羊祜的舉薦，因為此時的羊祜，正在為晉武帝司馬炎籌劃一件大事——統(tǒng)一中國。

此時的西晉政權(quán)和東吳政權(quán)南北對峙，西晉擁有整個中國北方以及四川盆地，東吳的統(tǒng)治只局限在江南一隅，一統(tǒng)華夏，貌似只剩下最后一步，但是這最后一步卻不好走。長年以來，東吳的水軍是當(dāng)時中國最強的，西晉雖有當(dāng)時最強大的陸軍，放在水里卻沒招。尤其是東吳的主力戰(zhàn)船，比西晉要大很多。多年以來，從曹魏到西晉，也發(fā)動過對東吳的進(jìn)攻，無論陸地上打得多順利，只要一下長江，就會被東吳打得很慘。渡江，成了西晉統(tǒng)一全國的“無解難題”，王濬，就是要來解決這個難題的。

王濬被調(diào)任大司農(nóng)時，洛陽城就有民謠“阿童復(fù)阿童，銜刀浮渡江，不畏岸上獸，但畏水中龍”。這個民謠的意思，是說最終將由一個叫“阿童”的人完成統(tǒng)一大業(yè)，巧合的是，王濬的小名就是叫“阿童”。王濬做大司農(nóng)的時候，一直賞識他的羊祜也被調(diào)回了京城，司馬炎經(jīng)常召羊祜密談，商議滅吳的戰(zhàn)略。羊祜認(rèn)為，平滅東吳，關(guān)鍵在于要擁有一支強大的水師，而要想擁有強大的水師，首先就要有強大的戰(zhàn)船，因此他提出了一個規(guī)模巨大的“造艦”計劃，主要負(fù)責(zé)人就是王濬。這個計劃要造大批新式戰(zhàn)船，體積巨大，在當(dāng)時號稱“樓船”，既要花費國家大量資財，又要調(diào)動大量人力，稍有不慎就可能激起民變。所以計劃提出來之后，晉武帝本人也很猶豫。羊祜告訴晉武帝，能完成這個計劃的人，只有王濬。幾經(jīng)考慮之后，晉武帝終于命令王濬回任益州刺史，執(zhí)行這個關(guān)系統(tǒng)一大業(yè)的“造艦計劃”。

拿到這個計劃之后，王濬才知道有多難。這個計劃要求建造上百艘“樓船”，在當(dāng)時的科技條件下，這就好比一個現(xiàn)代國家需要在短期內(nèi)制造幾百艘航空母艦，難度可想而知。造船的主要地點，是王濬為官多年的四川地區(qū)，這項工程耗費人力物資非常巨大，很可能會成為當(dāng)?shù)匕傩盏呢?fù)擔(dān)。在四川生活多年的王濬也知道，當(dāng)時的四川，一直就是“多亂”之地，因為和中央距離遙遠(yuǎn)，當(dāng)?shù)亟?jīng)常發(fā)生暴亂，南面的少數(shù)民族還經(jīng)常騷擾此地，此時實行這個計劃，是一件牽一發(fā)動全身的大事。