对李斯开始心生不满，赵高趁机进言说：“沙丘之谋，丞相也有参与。如今陛下做了皇帝，而丞相的地位却已不能再提高，看他的意思是想要裂土封王。有些事陛下不问臣，臣也不敢说，丞相的长子李由是三川郡守，楚地的贼寇陈胜等都是丞相老家邻县的人，所以楚地的贼寇敢于公开横行，当他们路过三川郡的时候，郡守李由只是守城，不愿出击。我听说他和贼寇还有书信来往，由于没有切实的证据，所以没敢告诉陛下。现在丞相在外掌理朝政，权势比陛下还大。”秦二世认为赵高说得对，想逮捕李斯，又怕事实不准确，于是就派人去调查三川郡守李由与贼寇相通的情况。李斯知道之后，前去向秦二世告发赵高，却不被秦二世采纳，反而因赵高的谗言而被下狱。
秦二世命赵高主审丞相李斯的案件，理清罪名，责问李斯和他儿子李由谋反的情况，全部逮捕了李斯的宗族及宾客。赵高指使他的门客十几批，装作御史、谒者、侍中等官员，轮番审讯李斯，李斯一旦翻口供对答实情，就会再次招来毒打。后来，秦二世派人查验，李斯以为还是跟之前一样，最后没有改变口供，承认了状辞，赵高把判决呈奏给秦二世，秦二世高兴地说：“要是没有赵君，朕差点就被丞相给卖了。”
刘邦、项羽在濮阳东部击败章邯率领的秦军，章邯收兵据守濮阳城，重振军势，放出河水环护全城。刘邦、项羽因而转攻定陶，定陶没能打下，于是往西攻城略地，到达雍丘，在雍丘与三川郡守李由率领的秦军交战，刘邦携曹参、周勃、樊哙、夏侯婴、靳歙等协同项羽兵团合攻秦军，最终击破李由的军队，刘邦麾下将领曹参斩杀李由。等到秦二世派遣的使者到三川郡去逮捕李由时，李由已经被项梁的起义军击杀了，使者回来，正赶上丞相已经交给狱官看管，赵高就胡乱编造谋反的言辞给李斯定罪。
李斯被判处五刑，决定在咸阳闹市上腰斩，李斯被押出监狱，和他排行居中的儿子一同绑赴刑场。李斯回头对他的儿子说：“我想和你再一次牵着黄狗，一起出上蔡城东门去追逐狡兔，还能办得到吗？”于是，父子相对痛哭，最终被诛灭三族。