在廉潔自律方面，羅瑞卿堪稱是公安系統的楷模，他的秘書羅家禎回憶：

羅瑞卿同志1949年6月從軍隊到中央軍委公安部任職，1950年住宅遷至南池子緞庫后巷甲1。這是一個獨門小院，羅家住樓房七間，另三間為辦公、會客、餐廳。院內的附屬房為秘書和公勤人員居住，他家人口多，一個孩子已工作，獨立生活，七個孩子上學，一個烈士子女(鄧發(fā)之女)也在上學，五個親屬，加上他們兩口子，最多時有16口人。1953年實行工薪制，他是行政四級，月薪400元。他又是公安軍司令員，大軍區(qū)級，本可拿軍隊較高薪金，但他以主要工作在公安部為由，堅持拿地方工資。他的夫人郝治平行政十二級，月薪200元，全家每月生活開支及學費、服裝和日雜開支，所剩無幾。他常穿有補丁的內衣，孩子們的衣服多是大的穿過小的穿。他從未接受過組織上的特殊照顧，也從未接收過部屬的饋贈。他喜歡戲劇，常自費到劇場觀劇。他為人熱情，常自費請熟識的同事到飯店吃飯。他有一個妹妹在四川老家，偶爾亦給些經濟支援，但對她提出安排子女工作的要求，堅決拒絕。他到外地考察工作時，關照秘書要付飯費、按標準吃，莫要特殊化?？梢哉f，他家的生活是一般常人的生活水平。文革中，他家兩次遭紅衛(wèi)兵抄家，所抄實物開有三聯單，現款和存款總計不過2000元，沒有抄到違禁和貴重物品。當時中央專案領導人問我他家有什么金銀財寶?我說他家確確實實沒有金銀財寶和古玩字畫，亦沒有豪華家具和衣物，這位領導人表示十分驚奇。

羅瑞卿對黨中央、毛主席的指示一向堅決貫徹，不打折扣。中共中央作出開展"三反"運動的決定后，羅瑞卿立即布置在公安系統傳達貫徹。就在此時，羅瑞卿得悉當時的中南局公安部部長有嚴重腐敗行為，便親自到武漢了解情況。這位部長是公安保衛(wèi)戰(zhàn)線的老將，是羅瑞卿的老部下，平時工作是有成績的。但是進入武漢大城市以后，喜歡跳舞玩樂，搞小金庫，公費吃喝，亂搞男女關系。羅瑞卿聽了中南局負責人的介紹，深感問題嚴重，同中南局領導研究后一致決定，對他嚴肅處理，撤職并給予黨紀處分。

羅瑞卿的秘書羅家禎曾在這位部長領導下工作多年，對他所犯錯誤深為惋惜。在處理過程中，這位部長不好意思去見羅瑞卿，便找到羅家禎，沉痛表示悔過。羅家禎認為，他雖然錯誤嚴重，但已有認識，還作了深刻檢討，處理似可以從寬，便找到羅瑞卿，委婉地表示了自己的意見。羅瑞卿立刻嚴肅地對羅家禎說："早在進城之前，毛澤東就一再告誡全黨要戒驕戒躁，艱苦樸素，尤其是警惕敵人的糖衣炮彈襲擊。他身為黨和政府的高級干部，不僅沒有帶個好頭，反而帶了腐敗的頭，必須從嚴處理，不能姑息。"

從武漢回來，羅瑞卿愈加堅定了這樣一個認識："三害"已嚴重侵蝕了一部分公安干警，"三害"不除，公安隊伍就無法保持純潔，戰(zhàn)斗力也將逐漸喪失。于是，羅瑞卿接連采取三項措施，推動公安部機關和全國公安系統"三反"運動的開展：一是領導以身作則，要求公安部和各級公安系統的領導干部都要在群眾大會上表示決心，作出自我檢討或反省，為群眾撐腰。二是"搬石頭"。對于自身不干凈、既不主動交代又怕發(fā)動群眾的干部，立即調職或撤職；對于壓制民主的干部，停止其工作。三是加強監(jiān)督。各級公安機關都要成立節(jié)約檢查委員會，對落后單位，督促其盡快趕上來。