李密手下的贵族派，又来鼓动他了，说：“如果被毒蛇咬了手臂，壮士就应该立即断腕，不能因小失大。您和翟让的关系固然亲密，但比起帝王大业来，却是小事，所以不能因小失大，必须当机立断。不然的话，后悔可就晚了。”李密思前想后，觉得还是帝王大业重要，终于下定决心，要除掉翟让了。
公元617年11月11日，李密设下宴席，宴请翟让、翟让的哥哥翟弘、翟弘的儿子翟摩侯，准备将他们一网打尽。翟让是厚道人，根本没有想到李密会害他，没有半点戒备，欣然赴宴。没有想到的是，徐世勣和单雄信听说李密设宴，嘴巴馋了，也不请自来。
李密有点为难了，这几个人都是武艺超群，不好对付，弄不好会出意外。李密的心腹谋士房彦藻却认为，都已经准备好了，箭在弦上，不得不发，否则走漏风声，后患无穷。
房彦藻想把徐世勣和单雄信调开，对他俩说：“王伯当将军在隔壁房间里，我看这里人多，你们二位不如去与王将军同饮。”王伯当是李密的死党，被安排在隔壁房间，以防万一。徐世勣、单雄信没有任何怀疑，跟着房彦藻去了隔壁房间。
徐世勣、单雄信走后，李密与翟让、翟弘父子等人开怀畅饮，气氛十分融洽，没有丝毫异常。酒至半酣，李密说：“我最近得到一张好弓，须力气大的才能拉动。您要不要欣赏一下？”翟让是武将，自然喜欢好弓，点头同意了。李密召唤手下壮士蔡建德，赶快把弓拿来。
翟让接过弓一看，确实是一张好弓，于是站起身来，憋足了劲，用力一拉，把弓拉了个满月。翟弘父子拍手叫好，不料，叫好声未落，李密一使眼色，侍立一旁的蔡建德突然抽出刀来，一刀刺入翟让后背。
翟让顿时发出像牛一样的吼叫声，随即倒地身亡。由于事发突然，翟弘父子都吓傻了，呆若木鸡，没等他们回过神来，蔡建德的大刀又砍了过来，两人都倒在了血泊之中。
在隔壁房间喝酒的徐世勣，听见了动静，感觉不对，急忙出门察看。这时，李密事先安排的伏兵冲了过来，见房间里跑出一人，不由分说，一刀砍去，正中徐世勣的脖子，顿时血流如注。伏兵还想再砍，王伯当一个箭步冲出来，厉声制止，并立即察看徐世勣的伤情。
单雄信完全没有想到会出这事，呆在那里，不知所措，腿都软了。李密走过来，赶紧好言劝慰，说今日只诛翟氏，与其他人无关。李密还亲自给徐世勣包扎伤口。所亏徐世勣的刀伤没有致命，后来痊愈了。
就这样，翟让一世英雄，竟然稀里糊涂地惨死在他鼎力扶持的李密手里。消息传开，瓦岗寨一片震惊。李密赶紧发布安民告示，说只杀翟让一家，其他人概不牵连，希望大家齐心协办，共图大事。元老派们心中悲愤，但见翟让已死，李密又有防备，所以没敢作乱。
李密与翟让的矛盾，其实并不尖锐，根本没有到你死我活的程度，如果处理得当，是能够解决的，即便解决不了，李密也应该用宽阔包容之心，来对待于他有恩的翟让，万万不能出此下策。可是，李密被帝王大业冲昏了头脑，他上台只有十个月，就用卑鄙手段谋杀了翟让，落了一个忘恩负义的坏名声，后果十分严重。
李密谋杀翟让以后，虽然没有引起大的骚动，很快归于平静，但在所有瓦岗军将士的心里，却留下了深深地、无法弥合的伤痕。人人都认为，李密不是厚道之人，而是忘恩负义之徒。李密的威信一落千丈，再也没有凝聚力了，人心因此而涣散。
俗话说，人心齐，泰山移。人心是世界上最强大的力量，如果人心不齐，必然会满盘皆输。李密丧失了人心，所以，他的帝王大业，最终并没有成功。
在隋末农民大起义中，除了河南的瓦岗军以外，河北的窦建德也是一支很强的力量。窦建德占据了河北，建立了农民政权，声势大振。