之所以说纪晓岚“悲哀”，是因为乾隆对他的评价：“朕以你文学优长，故使领四库书，实不过以倡优蓄之，尔何妄谈国事！”真不知道纪晓岚当时听到这句话是何表情何心态？
乾隆对纪晓岚说这句话的背景是这样的：内阁学士尹壮图指陈弊政，称各省督抚“声名狼藉，吏治废弛”。而晚年的乾隆早已陶醉在自我美化的怪圈里，再也听不进忠言，那些见风使舵的大臣奏议将尹壮图拟斩。纪晓岚与尹壮图之父尹松林为同年进士，因这层关系，纪晓岚为尹壮图求情，乾隆勃然大怒骂出他心中的真实想法，称纪晓岚“不过当作娼妓一般豢养罢了。”
在民间传说中，纪晓岚风流倜傥一表人材，他与乾隆这对君臣的关系是贤明的君主能干的臣子，相互间充满信任、调侃和幽默。纪晓岚正直、机智、英俊、洒脱，他与和珅针锋相对，时时伺机捉弄对手，出他洋相；自己又每每能够成功避开和珅的报复，整的假亦真时真亦假。
其实，历史上并非如此，这些故事情节都是人们想当然善意美化的，全属子虚乌有。据有关资料记载，纪晓岚真实的形象和民间传说存在着很大的差异。历史中真实的纪晓岚“貌寝短视”。“貌寝”指相貌丑陋；“短视”就是近视眼。这位大学士不光有这些缺点还要加上口吃的毛病，朱珪曾有诗描述纪晓岚，“河间宗伯姹，口吃善著书。沉浸四库间，提要万卷录。”但客观地说，纪晓岚既然能通过各层科举考试，长相也绝对不是“对不住观众”，应该能“过得去”，但纪晓岚长相不好看却是无疑的。在乾隆以貌取人的标准下，这些先天不足让纪晓岚吃了大亏。
因此，即便纪晓岚再才华横溢，他相貌一般般、近视眼、口吃这些“毛病”，是乾隆和纪晓岚一辈子貌合神离，得不到真正重视的一个重要原因。纪晓岚难以做乾隆的宠臣、重臣，难以参与重大的政治决策，只能以文字安身立命，只能做乾隆的词臣。
纪晓岚曾出任都察院左都御史，因判案不力，部议本应受罚，乾隆却说：“这次派任的纪晓岚，本系无用腐儒，只不过是凑个数而已，况且他并不熟悉刑名等事务，又是近视眼他所犯的过错情有可原。
”一个堂堂学富五车才高八斗的大学士，在他的主子心中竟是个“凑数的腐儒”这般田地，怎能叫人不再说他一次悲哀。纪晓岚一生中两次任乡试考官，六次任会试考官，三次任礼部尚书，这些都是一些无实权的官职，只是大清朝廷花瓶般的摆设而已，是他做词臣真实际遇的体现。
乾隆皇帝让纪晓岚总纂《四库全书》，只是为了给自己多抹点脂粉，为自己的“文治武功”多弄些噱头。让纪晓岚当总纂，这是因为纪晓岚在这方面确实有他人无可比拟的才气，乾隆认为他只能做一些这类的工作，而并不是把他当成独当一面的重臣。总纂《四库全书》时纪晓岚五十岁，他倾注了大量的精力和心血，以自己博大精深的学识、惊人的意志力，对保存和整理我国古代文化遗产做出了巨大贡献。纪晓岚在《四库全书》上经营十三年，亲自撰写了《四库全书总目提要》，还编写了《四库全书简明目录》，他一生的荣耀和辉煌在此达到了顶点。
