次日，秦国的大臣们打听到赵高把二世转移到了甘泉宫，都恨不得将赵高剥皮抽筋，他们就在李斯的带领下又来到甘泉宫。二世听说大臣们又找上门来了，还堵在宫门口不走，就只好接见了他们。
可想而知，此时大臣们心中是多么的愤怒，他们见到皇帝后就一齐声讨赵高。李斯道：“陛下，我听说臣下和君主平等了，没有不危害国家的；侍妾同丈夫平等了，没有不危害家庭的。现在赵高在陛下身边独揽大权，一手遮天，处理事情竟然和您的权利一样，这就太危险了啊！我忽然想起：从前宋国的司城子罕当丞相的时候，他用施舍的方法得到了民心，一年后就篡位夺权；齐国的田恒，他收敛的钱财竟然和齐国公室的一样多，简公赐给他的爵位更是无人能比，后来果然行惠施恩，收取人心。等到大权在握，就杀了同僚阚止，然后杀了齐简公夺权，这是众所周知的事情啊！现在赵高有邪yín 的思想和不轨的行为，且恶名在外，劣迹斑斑：臣听说他收敛的钱财早就超过田恒好几倍，也有子罕的叛逆兆头。陛下此时若不明察秋毫，除掉此贼，恐怕他真的要仿效韩玘对待韩王安的事情了？”
二世却咂嘴道：“哟哟哟，李丞相怎么能如此说？赵大人原本就很廉洁自律，还助人为乐，因此才得到提拔重用。后来只因他受了宫刑，才行使宦官的权利侍奉在朕的身边，他却不因为安逸而随心所欲，也不因为危险而改变初衷，每次都是因为忠诚和才智才享有这么高的爵位。朕确实认为他是一位贤良之士，而你却怀疑他有异心，这是为什么呢？你们这些将相都已经老了，朕还年轻，先帝逝世的又早，朕不把国事托付给他还指望谁？况且我本来就知道赵高贤明能干，又忠诚耿直，不是他替朕谋划，朕岂能登上帝位？自从他佐政以来，就能了解民情众意，又能附合朕的心意，这是多么的难能可贵！这样的人也真是万里挑一，可你们都说他的坏话，这简直是岂有此理？”冯劫听了二世的这番话，就大感意外道：“陛下，臣等虽然老了，但赵高属易牙、竖刁、开方之辈，您把权利交给他，国家岂能无祸？”冯去疾也道：“是的，陛下应该趁他狼子野心还没有完全暴露，罢免此贼，这不光是满朝文武的心愿，也是全天下百姓的心愿，请陛下三思啊！”李斯也赶紧道：“二位大人言之有理，赵高包藏祸心，其谋逆之心确昭然若揭，请陛下纳臣等之谏，立即传来赵高，诛杀此贼。臣等虽无管仲之才，但也有管仲之心啊！”
二世就睁大了眼睛，不可思议地道：“你们真是头脑发昏啊，怎么连朕的话都听不进去？今天朕不治你们的胡言之罪，快快出去吧！”说完就甩袖走进了后堂，再也不想见到大臣们了。李斯见此便捶胸大叫道：“今天不杀国贼，秦国的大祸就不远啦！陛下！陛下！……”可是二世早就走远了。李斯无奈，只好和大臣们走出来，他哭丧着脸，绝望地看着天空。恰好一阵秋风夹杂着落叶袭来，李斯感到透骨的凉意，他似乎看到天上那位冤死的扶苏正对着他说‘你不是与赵高合谋来害我吗？现在才知道与虎谋皮、助纣为虐的下场了？恐怕你的好日子快要到头了？’李斯突然放声大笑……
二世回到后宫，不等赵高说话，就把李斯等人的话全部抖落出来。赵高心中大怒，就假装可怜兮兮地跪在地上道：“陛下，丞相所顾忌的就是我赵高一人啊！我死之后，他就真的要串通楚人，要行子罕、田恒之事了。我为了您即位却得罪了所有的人，今天就是死了，又有什么遗憾？”说罢就呜呜地哭了起来。二世大笑道：“老师不必忧虑，朕怎么会让你死呢？”赵高道：“陛下虽然怜惜臣的性命，可是李斯他们还会合伙害我呀！”二世突然哼了一声，道：“他们说了不算，他李斯也不要拿丞相来吓唬朕！”赵高见二世处处替他着想，便大胆道：“臣的安危不要紧，臣只是担心荆珂的事情还会发生啊！”这句话提醒了二世，二世就惊恐道：“老师是说他们要行刺朕？”赵高点头道：“怎么不会？您想先帝是多么的威武，尚且多次遇到不测，何况陛下！”二世就道：“如此说来，朕该怎么办？”赵高不假思索道：“只有加强您的卫队，奸人就不会靠近您，才可高枕无忧。”二世就火急火燎道：“好好好，你先安排歌舞，然后再去装备卫队。”赵高心中大喜，便对着另外的一位宦官高声道：“歌舞准备，表演开始喽！”一会儿，整个宫室的大堂上就响起了欢愉的音乐，紧接着从屏风后面就飘出了一排排仙女似的佳丽靓娥，然后翩翩起舞。赵高看着她们，奸笑着离去。
接下来的几天时间里，赵高就装备皇帝的卫队，并且安排亲信担任了领队，目的就是想完全控制二世。