凤尾香罗薄几重，碧文圆顶夜深缝。
扇裁月魄羞难掩，车走雷声语未通。
曾是寂寥金烬暗，断无消息石榴红。
斑骓只系垂杨岸，何处西南任好风。(任 一作：待)
胡俨从小十分好学，对天文、地理、律历、医学、占卜方面的书籍，无不博览。洪武年间，胡俨以举人身份被授予华亭县教谕，能以师道自任。母亲去世，他守孝期满后，改到长垣任教谕，请求给予便地养家，后又改到余干县任职。批准学官请求便地即是从胡俨开始。
建文元年（1399年），胡俨被推荐任为桐城县知县。他主持开凿桐陂水，灌溉田地，使百姓获利。县境有虎伤人，胡俨斋戒沐浴后向神灵祷告，老虎便逃走了。桐城县人把他供祀在朱邑祠。
建文四年（1402年），副都御史练子宁把胡俨推荐给朝廷，说：“胡俨具有的知识足以通达天人，他的才智足以参佐帷幄。”等胡俨被召来时，燕王的部队已渡过了长江。
朱棣即位后，说：“胡俨懂得天文，就让钦天监考考他。”考完之后，钦天监官员上奏说胡俨确实通象纬、气候之学。不久又因解缙的推荐，授予胡俨翰林检讨之职，与解缙等人一同在文渊阁当值。升为侍讲，再升为左庶子。胡俨因父亲去世守丧，守孝期满后胡俨又出来任职。胡俨在内阁时，受皇上顾问，他从不与人争先，但稍嫌戆直。
永乐二年（1404年）九月，胡俨被任为国子监祭酒，便不再参预机务。当时国子监用法严峻，国子生请事假回家的，也被判戍边。胡俨到任后，立即上奏废除了这条规定。
永乐七年（1409年），朱棣幸临北京，召胡俨赴行。
永乐八年（1410年），朱棣率军北征，命胡俨以祭酒兼侍讲，掌管翰林院事务。辅佐皇太孙留守北京。
永乐十九年（1421年），胡俨改任北京国子监祭酒。当时，海内统一已近五十年，朱棣正内兴礼乐，外怀要荒之地，公卿大夫彬彬然多是文学之士。胡俨作为馆阁宿儒，朝廷大著多出自他之手，重修《太祖实录》、《永乐大典》、《天下图志》，他都担任总裁官。他主持国学二十余年，以身率教，一行一动都有师法。
洪熙元年（1425年），胡俨以病请求退休，明仁宗朱高炽赐给敕书，奖励慰劳他，进升他为太子宾客，仍兼祭酒。退休后，朝廷免除他子孙的赋税徭役。明宣宗朱瞻基即位后，以礼部侍郎之衔召胡俨，胡俨推辞归家。
胡俨在家二十年，方岳重臣都以师礼对待他。胡俨与他们交谈，从不曾说到他个人的事。他自处淡泊，岁时的衣食才刚够需要。当初他任湖广考官时，看到杨溥的文章，非常惊异，在其上题写道：“此文作者必能为董子之正言，而不为公孙之阿曲。”世人都认为他知人。
正统八年（1443年）八月，胡俨去世，终年八十三岁。
始，故人唐宰相鲁公，开府南服，余以布衣从戎。明年，别公漳水湄。后明年，公以事过张睢阳庙及颜杲卿所尝往来处，悲歌慷慨，卒不负其言而从之游。今其诗具在，可考也。
余恨死无以藉手见公，而独记别时语，每一动念，即于梦中寻之。或山水池榭，云岚草木，与所别之处及其时适相类，则徘徊顾盼，悲不敢泣。又后三年，过姑苏。姑苏，公初开府旧治也，望夫差之台而始哭公焉。又后四年，而哭之于越台。又后五年及今，而哭于子陵之台。
先是一日，与友人甲、乙若丙约，越宿而集。午，雨未止，买榜江涘。登岸，谒子陵祠；憩祠旁僧舍，毁垣枯甃，如入墟墓。还，与榜人治祭具。须臾，雨止，登西台，设主于荒亭隅；再拜，跪伏，祝毕，号而恸者三，复再拜，起。又念余弱冠时，往来必谒拜祠下。其始至也，侍先君焉。今余且老。江山人物，睠焉若失。复东望，泣拜不已。有云从南来，渰浥浡郁，气薄林木，若相助以悲者。乃以竹如意击石，作楚歌招之曰：“魂朝往兮何极？莫归来兮关塞黑。化为朱鸟兮有咮焉食？”歌阕，竹石俱碎，于是相向感唶。复登东台，抚苍石，还憩于榜中。榜人始惊余哭，云：“适有逻舟之过也，盍移诸？”遂移榜中流，举酒相属，各为诗以寄所思。薄暮，雪作风凛，不可留，登岸宿乙家。夜复赋诗怀古。明日，益风雪，别甲于江，余与丙独归。行三十里，又越宿乃至。
其后，甲以书及别诗来，言：“是日风帆怒驶，逾久而后济；既济，疑有神阴相，以著兹游之伟。”余曰：“呜呼！阮步兵死，空山无哭声且千年矣！若神之助固不可知，然兹游亦良伟。其为文词因以达意，亦诚可悲已！”余尝欲仿太史公著《季汉月表》，如《秦楚之际》。今人不有知余心，后之人必有知余者。于此宜得书，故纪之，以附季汉事后。
时，先君登台后二十六年也。先君讳某字某，登台之岁在乙丑云。