褚遂良，字希明，杭州錢塘人也。其父親諸遂玠，陳朝秘書監，曾撰寫南朝歷史。在文學上頗有造詣。
諸遂良在年幼的時候他聰明好學，善於作文章和喜愛王曦之的書法。
他博覽群書無所不至，像那孔子聖人的經典著作《禮紀》等篇目熟記在心。
他喜愛交遊隋朝名士和賢良，喜愛與人談論。他那年剛好年滿一十八歲，他喜愛向陳朝僕射（丞相）徐陵請教學問。他同徐丞相在談論文章之時，常常有自己獨到的深刻見解。
徐丞相對他大為欣賞。於是，一傳十，十傳百，諸遂良聲名鵲起。
陳後主聞其名在朝堂召見於他，令他在宮殿中即時賦詩。當時，江淮一帶的名士皆在坐。諸遂良才思敏銳，出口成章。群儒對他讚賞有加。
禎明元年（陳朝皇帝之年號），他官拜尚書府侍郎。陳朝在滅亡後，他投誠於楊堅所創立的隋朝為官。拜東宮大學士（做太子楊勇的老師）。在大業年中，他又被隋煬帝楊廣授為東宮太常博士。
當時隋煬帝將要改置隋楊氏皇族宗廟，諸遂良在朝堂上奏議道：臣謹按孔子之《禮記》而擬言：「天子之宗廟，號稱三昭三穆，與太祖廟號共稱為七廟。」
鄭玄《注》云：「此周制也。七者，太祖及文王、武王之祧，與親廟四也。殷商為六廟，契及湯與二昭二穆也。夏朝時則五廟，無太祖，禹與二昭二穆而已。」
鄭玄又依據《禮記》日：「王者禘其祖之所自出而立四廟。」按鄭玄之義，天子唯立四親廟，並始祖而為五。周以文、武為受命之祖，特立二祧，是為七廟。王肅在註解《禮記》有曰：「尊者尊統上，卑者尊統下。故天子七廟，諸侯五廟。其有殊功異德，非太祖而不毀，不在七廟之數。」
按天子之七廟，是百代之言。又據《王制》天子七廟，諸侯五廟，大夫三廟，降二為差。是則天子立四親廟，又立高祖之父、高祖之祖父、太祖而為七者。
周朝有文、武、姜嫄合為十廟。西漢諸帝之廟立，無迭毀之義。至漢元帝時，貢禹、匡衡之徒始議其禮，以高帝為太祖，而立四親，是為五廟。唯劉歆以為天子七廟，諸侯五廟，降殺以兩之義，七者，其正法可常數也。宗不在此數內，有功德則宗之，不可豫設為數也。是以班固稱「考論諸儒之儀，劉歆博而舊矣。」
至東漢漢光武即位，建高廟於洛陽。乃立南頓君以上四廟，就祖宗而為七。至三國時曹魏，高堂隆為鄭學，議立親廟四，太祖武帝猶在四親之內，乃虛置太祖及二祧以待後世。
至晉景初年間，乃依王肅更立六廟，二世祖就四親而為六廟。晉武受禪，博議宗祀，自文帝以上至六世親祖征西府君，而宣帝亦序於昭穆，未升太祖，故祭止六世。
南朝中興，賀循知禮，至於寢廟之議，皆依魏、晉舊事。宋武初受命，依諸侯立親廟四，即位之後，增祠五世祖相國掾府君、六世祖右北平府君，止於六廟，建身沒主升，亦從昭穆，猶太祖之位也。降及齊梁，守而勿革，加宗迭毀，禮無違舊。
臣又按姬周自太祖已下，皆別立廟，至於禘祫，俱合食於太祖。是以炎漢之初，諸廟各立，歲時常享，亦隨處而祭，所用廟樂，皆像功德而歌舞焉。
至漢光武帝乃總立一堂，而群主異室，斯則新承寇亂，欲從約省，自此已來，因循不變。皇隋太祖武元皇帝仁風潛暢，至澤傍通，以昆、彭之勳，開稷、契之緒。高祖文皇帝睿哲玄覽，神武應期，撥亂返正，遠肅邇安，受命開基，垂統聖嗣，鴻名冠於三代，寶祚傳於七百。當文明之運，定祖宗之禮。且損益不同，沿襲異趣，時王所制，可以垂法。自歷代已來，親用王、鄭二義。若尋其旨歸，校以優劣，康成止論周代，非謂經通；子雍總貫皇王，事兼長遠。今請依據古典，崇建七廟，受命之廟，宜別立廟，祧百世之後，不毀之法。至於鑾駕親奉，申孝享於高廟；有司行事，竭誠敬於群主。俾夫規模可則，嚴祀易遵，表有功而彰明德，大復古而貴能變。臣又按周人立廟，亦無處置之文，據塚人職而言之，先王居中，以昭穆為左右。阮忱所撰《禮圖》，亦從此義。漢京諸廟既遠，又不序禘祫。今若依周制，理有未安，雜用漢儀，事難全采，謹詳立別圖附之。
諸遂良的建議沒出息被隋煬帝楊廣所採納。於是，他心中鬱悶。因為，他曾與禮部尚書楊玄感關係密切，被楊玄感任命為西海郡司戶。
當時隋煬帝楊廣出兵攻打高麗國，造成天下之大亂，盜賊縱橫，他的親戚互不能保。諸遂良與他們同行逃難。當他們來到隴山（甘肅隴西）之時，他的叔叔在路途病終，諸遂亮親自買下棺材裝斂亡人，慨然傷懷，他題詩在隴西郡的一顆大樹之上。當時，就有許多好事者人紛紛傳寫他的哀悼之文、爭相傳誦。他的名氣便是傳於京城之間。及至薛舉僣號於隴西地區，他拜諸遂良做了黃門侍郎委以重任。
「相信，我大唐若是招賢於此人，將會使天下之群儒莫不歸順我大唐也。」
宗、翟二人敘述完諸遂亮的軼聞和趣事之後，只聽得李世民撫掌稱善。
他思賢若喝。遂派人前去隴西地區，欲說服諸遂良入朝為官。
後來，諸遂良成為了秦王李世民府中的「十八學士」之一。他的書法墨寶：碑石篆刻的傳世拓本，已成為現代中國之書法界廣大愛好者所青睞的法貼之一）。