明朝开国之初，朱元璋手下可谓是能人辈出，文有李善长、刘伯温、宋濂，武有徐达、常遇春、李文忠、傅友德，在这些人中，又以刘伯温的名声最响，留下来的传奇故事最多，但就官职赏赐而言，刘伯温在这群人中甚至排倒数。
明朝开国后大封功臣时，以刘伯温的定鼎之功，被封为诚意伯(伯爵)，岁禄200石，官职是御史中丞，御史台的副长官，并没有太多实权。相较之下，李善长则是以功勋第一被封为韩国公(公爵)，岁禄4000石，左丞相，统领天下政事。比较下汉朝张良的赏赐，刘伯温这个明朝“张良”的赏赐是何其薄也。
刘伯温被薄待，主要有两个原因。
首先，刘伯温虽然在朱元璋争夺天下之中提出了先灭陈友谅，后图张士诚，再北伐中原的关键策略，但相较李善长、徐达等人来说，刘伯温加入朱元璋集团的时间较晚，不算“创业元勋”。
其次，刘伯温是浙东人，而朱元璋、李善长则是淮西人，由于不属于淮西集团，在封赏功臣时，刘伯温受到了李善长的排挤，而朱元璋也更偏向“老乡”，于是便打压了刘伯温。
由于李善长的排挤，加上出于避祸的打算，刘伯温于洪武四年告老回乡，隐居山中，不问政事。但就像武侠小说中谁先金盆洗手谁先走的逻辑，刘伯温虽然有心避祸，但祸却自己找上门来。
归隐以后，刘伯温先是被人诽谤用”王气“的土地营造自己的坟墓，图谋不轨被朱元璋剥夺了官职和俸禄。为了避免更大的祸患，刘伯温只得亲自去南京向朱元璋请罪并定居了下来。不久后，胡惟庸成了左丞相，刘伯温大为悲戚，不久便忧愤成疾因病去世了。
对于刘伯温之死，现在后世的传说认为是胡惟庸下毒谋死的。那事实是否如此呢?从两人的关系来说，胡惟庸确实有谋害刘伯温的动机。
在朱元璋撤换李善长之前，曾经询问过刘伯温谁适合继任宰相。这是一次推心置腹的谈话，刘伯温出于公心，坦诚地回答了自己对杨宪、汪广洋、胡惟庸的看法。
其中对胡惟庸，刘伯温的评价最差：“譬之驾，惧其偾辕也。”在刘伯温看来，胡惟庸好比一匹劣马，让它来驾车，必然会翻车坏事。虽然朱元璋最后没听从刘伯温的意见，还是根据李善长的推荐选择了胡惟庸出任宰相，但两人间的梁子已经结下了。而且胡惟庸也是属于淮西集团的一员，也有排除异己的必要。
胡惟庸毒杀刘伯温，看上去事实明确，但真相却未必如此，朱元璋反而更像是幕后黑手。
刘伯温死后，朱元璋曾和他的儿子谈起此事，他说：“刘伯温在这里时，满朝都是胡党，只是他一个不从，吃他每蛊了。刘伯温在这里时，胡家结党，只是老子说不倒。”朱元璋一口咬定刘伯温是因为不屈从胡惟庸而被毒死，而且大力夸大胡惟庸结党的力量，认为他们可以连皇帝的话都不听了。
但从后面事态的发展来看，事实却并非朱元璋说的那样。首先，在朱元璋时期，特务政治已经初现端倪，检校对每个大臣都有着严密的检控，如果胡惟庸下毒，不至于朱元璋一点消息都没有。
其次，胡惟庸虽然贵为宰相，但权势并没有朱元璋说得那么大，后面胡惟庸被以“植权擅党”的罪名处死时，连一点像样的反抗都没有，因此朱元璋所谓的“说不倒”只不过是虚言。
刘伯温之死更有可能是朱元璋的阴谋，他利用胡惟庸和刘伯温的矛盾，先是对胡惟庸进行暗示，让其对刘伯温下毒手，最后再用这个罪名来彰现胡惟庸的专断独行、横行不法，从而将其一网打尽，以达到其屠戮功臣的目的。从这个角度来说，刘伯温之死则更增添了悲剧色彩。
最终，朱元璋达到了他的目的。胡惟庸入狱初，是以“擅权植党”的罪名，但这个罪名明显不能让朱元璋达到清除功臣的目的，于是经过一系列“调查”，“擅权植党”升级为“通倭通虏”，一大批功臣宿将被列为“胡党”处死。
到洪武二十三年，胡惟庸死后十年，罪名又被升级为“谋反”，李善长以及唐胜宗、费聚、赵雄三名侯爵被卷入此案被诛杀。整个胡惟庸案下来，累及诛杀功臣及其家属达三万余人。之后子虚乌有的蓝玉案也如出一辙，最后牵连人数达到两万余人。人头落地之下，尸山血海之中，朱元璋完成了自己清除功臣，为自己孙子朱允文继位开路的目标。
,
