劉祎之，常州晉陵人。他的祖父劉興宗，是前朝陳鄱陽王的咨議參軍。他的父親劉子翼，善誦，有學行，隋朝大業(yè)初年(605)，歷任秘書監(jiān)，河東柳顧言很看重他。他性不能容忍是非，朋友同事有短，他當面指責。友人李伯藥常稱揚他說：“劉四即使罵了人，人都不恨。”貞觀元年(627)，唐太宗召他入京，他以母老堅決推辭，太宗答應他終養(yǎng)。江南大使贊揚他至孝，常常送給他糧食綢布，并上表表彰他的家族，還把他所居住的地方改名為孝慈里。他母親去世后，服孝完，太宗征拜他為吳王府功曹，再升遷著作郎，弘文館直學士，參與編寫《晉書》，加朝散大夫之職。永徽元年(650)去世，高宗遣使者吊贈，送靈柩還鄉(xiāng)。有文集二十卷。

劉祎之少年時代與孟利貞、高智周、郭正一一起以文章知名，當時，以劉、孟、高、郭齊名。不久他與孟利貞等同進昭文館。上元二年(675)，他升遷左史，弘文館直學士，與著作郎元萬頃，左史范履冰、苗楚客，右史周思茂、韓曹賓等，都被召入宮中，共同修寫《列女傳》、《臣軌》、《百僚新識》、《樂書》，共千余卷。當時又密令他參與決策，來分擔宰相之權，時人稱他為“北門學士”。
劉祎之的兄長劉懿之，當時任給事中之職，兄弟并在兩省，談論者很是贊美他們。

　　儀鳳三年(678)，轉任朝議大夫、中書侍郎，兼豫王府司馬，不久又加中大夫之職。
劉祎之有姐在宮中為內職，武則天令她去探望榮國夫人的疾病，劉祎之私自偷見他的姐姐，因此被流配雋州。經過數年，武則天又上表請求高宗召
劉祎之回京，拜中書舍人。任相王府司馬，又升遷檢校中書侍郎。高宗對他說“：相王是我的愛子，因為卿忠孝之家，我想憑借卿高尚品德做師范，能夠出現蓬生麻中，不扶自直的好效果?！眲⒌t之在家敬老愛幼，與親友和睦相親，很是受士族的稱贊，他每得俸祿，總散于親屬，高宗因此很是看重他。武則天臨朝，也很親近他并委以重任。到豫王即位，
劉祎之參與謀劃，拜中書侍郎，代理宰相職務，賜爵臨淮男。當時，國家和軍隊中多事，朝廷的所有詔敕，都出自劉祎之筆下，他構思敏捷，都立待可成。到官名改變，
劉祎之為鳳閣侍郎，代宰相之職。

　　當時有司門員外郎房先敏犯了錯誤，降職為衛(wèi)州司馬，他找宰相申訴。內史騫味道對他說“：這是皇太后處分的?！钡t之對房先敏說：“因為犯錯誤而改官，一向是由下向上奏請的?！蔽鋭t天聽到他們的話，認為騫味道善則歸己，過則推君，于是貶騫味道為青州刺史；認為
劉祎之能推善于君，引過在己，便加官太中大夫，賜五色帛百段，細馬一匹。還以此事對侍臣說“：作為臣子處事，在揚君之德，君德發(fā)揚，難道不是臣下的美事？況且君是元首，臣是支體，情同一體，好壞也在一體。未聞手和腳的毛病轉移到腹背，而能一體安康的。騫味道不存忠心，已經貶官；
劉祎之竭忠奉上，情甚可嘉。”納言王德真對曰：“過去戴至德每有善事，必推于君?！碧笳f：“所以先朝總是稱揚至德能這樣為人處事，到他臨終，也受到褒揚推崇。為臣之道，難道有超過此行的嗎？這樣傳名萬代，難道不美嗎？”

　　唐高宗儀鳳三年(678)，吐蕃造成邊患，高宗對侍臣們說：“吐蕃小丑，屢次侵犯我邊境，我們本來的任務是謀求安定和睦，未能立即誅討夷狄。而夷狄豺狼成性，不知好歹，恩將仇報，我們放下不管則疆場日日緊張，處理它但又未有上策?，F在應該議論得失，請各位各抒己見。”當時，劉景光、郭正一、皇甫文亮、楊思徵、薛元超各有所奏。
劉祎之那時是中書舍人，發(fā)表意見說：“臣看自古明王圣主，皆有夷狄之患。吐蕃時時騷擾邊境，如同禽獸，得到他們的土地，不可居?。槐凰麄兦謹_，也算不上恥辱。愿陛下息萬乘之威，且寬百姓之勞役?！备咦诤苜澷p他的意見。

　　后來，
劉祎之曾私下對鳳閣舍人賈大隱說：“太后既然能夠廢除昏君立明君，又何用自己臨朝行天子事呢？不如返政給皇帝，來安天下人的心?！辟Z大隱把這話密奏給武則天，武則天很不高興，對左右的人說：“劉祎之是我所引用的人，意有背我之心，哪里還顧念我對他的恩呢！”垂拱三年(687)，有人誣告
劉祎之收受歸誠州都督孫萬榮的錢財，又兼與許敬宗的妾有私情，武則天特令肅州刺史王本立審訊此案。王本立宣讀太后的手敕，
劉祎之說：“未經過鳳閣鸞臺，怎么能稱敕呢？”武則天得知大怒，以劉祎之拒抗天子的刺史罪賜死于自己家中，時年五十七歲。

　　當初，
劉祎之已經下獄，睿宗為他申辯，劉祎之的親友都以為太后一定會寬宥，私下慶賀，但劉祎之說：“我必死無疑。太后臨事獨斷專橫，威福全由自己的心意，皇帝上表，只不過使我加速致禍罷了?！眲⒌t之在獄中，曾經上疏申訴。到臨死前，自洗沐，神色自若，命他的兒子執(zhí)筆起草謝表，他的兒子見將與父親訣別，悲痛得不能書寫，監(jiān)刑的人催促，
劉祎之就自己拿起筆一氣呵成，詞理懇切，見到劉祎之謝表的人無不傷痛。當時麟臺郎郭翰、太子文學周思鈞一起贊揚感嘆他的文采。武則天聽見便很討厭他們，于是降郭翰為丞州司馬，降周思鈞為播州司馬。睿宗即位，以
劉祎之為宮府舊僚，追贈中書令。有文集七十卷，傳于當時。