李善长以百官之首自居，对谁都是居高临下，甚至对朱元璋也不够尊重，许多事情自己处理，而不请示皇帝。朱元璋逐渐对李善长有些不满意了。
有一次，朱元璋病了，十多天不能上朝，李善长竟然不来问侯。朱元璋生了气，削减了他一千八百石的俸禄。
胡惟庸企图谋反，想拉上李善长，派李善长的弟弟李存义去劝说。李善长一听，十分惊恐，斥责说：“你们想干什么？这是灭族之罪，万万不可！”
胡惟庸不死心，又让李善长的老朋友杨文裕再去劝说。杨文裕对李善长说：“您功高盖世，也不过封公，事成之后，以淮西之地封您为王。”李善长仍然不答应，但有些心动了。
胡惟庸见李善长有些松动，于是亲自出马，再去劝说。李善长叹口气说：“我已经老了，你们就好自为之吧。”
从《明史》记载来看，李善长虽然没有公开参与胡惟庸的造反阴谋，但他事先知情。李善长对如此忤逆大罪，不加阻止，更不举报，无疑犯下了大罪。
公元1380年，胡惟庸案暴发，朱元璋下令，处死了胡惟庸、陈宁、涂节等数人，其他人并未受到牵连。李善长继续得到重用，统领中书省，并管理御史台事务。
公元1385年，李存义被人告发，说他参与了胡惟庸谋反。朱元璋从轻处罚，免去李存义死罪，把他安置在崇明，也没有牵连李善长。李善长却不向皇帝谢恩，朱元璋大为不满。
公元1388年，蓝玉率军征伐漠北，消灭了北元残余势力，俘虏了北元大臣封绩。封绩原是元朝将领，投降了明朝，成为胡惟庸的亲信。胡惟庸谋反的时候，派封绩去北元，请求北元出兵相助。不久胡惟庸被诛，封绩留在北元，没敢回来，不想这次做了俘虏。
封绩被俘以后，为了争取活命，供出了胡惟庸勾结北元这个重大机密。当时，李善长主审此案，却隐瞒下来，没有报告朱元璋，又犯下了一桩大罪。
公元1390年，李善长的家奴卢仲谦，告发李善长参与了胡惟庸谋反一案。朱元璋震惊，令人调查。
通过审讯，李存义、杨文裕以及李善长的亲信丁斌等人，都证明李善长事先知道胡惟庸谋反之事，而且经常与胡惟庸在一起窃窃私语，隐瞒封绩一案也败露了。
朱元璋震怒，认为李善长身为大臣和皇亲国戚，知道叛逆阴谋却不揭发，而是徘徊观望，心怀两端，实属大逆不道。
朱元璋在盛怒之下，下令将李善长、李存义及全族七十余人一并处死。李善长死时七十七岁。
朱元璋余恨未消，又大搞株连，李善长、胡惟庸等人的家属和亲朋好友全都受到牵连，总共杀了三万多人。
李善长晚节不保，心怀两端，知情不报，确实有罪，但诛杀他的全族，显然有些过分了，特别是牵连数万人被杀，更是残暴不仁。因此，后世许多人对李善长抱有同情，朱元璋却落下了滥杀功臣的暴君之名。
朱元璋在历史上大名鼎鼎，他的妻子马皇后也十分有名，甚至在民间比朱元璋的形象要好。那么，马皇后是个什么样的人物呢？有关马皇后的民间传说是真的吗？