1380年，即洪武十三年，丞相胡惟庸和他的党羽陈宁和涂节以及几千名忠实的追随者，都一起被处死。中书省被废除，同时被废除的还有御史台和大都督府。权力和责任都集中到了皇帝手里：他现在既是首辅，又是主要的军官了。胡惟庸的所谓的政变企图的细节仍然是不清楚的，因为围绕着这事件的故事和神秘传说是不可信的和矛盾百岀的。
皇帝本人承认，在处死胡惟庸以后所发生的可怕的清洗中总共处死了约15000人除了说胡惟庸想搞政变之外，有人举岀了各种不同的理由来解释这次大清洗。一个理由是经济方面的。在1380年后的14年中，有40000多人可能丧失了生命。大多数人是有产者，他们的田地可被国家轻易地没收。大清洗还使皇帝削弱了南方人在政府中所施加的影响。
但是，搞这种大清洗的主要原因似乎是皇帝的脾性所致。从空印案可知，他深深地厌恶哪怕是不忠和贪污的表现；胡惟庸一案在这方面显示得更清楚不过了。在17世纪所编的“官方”版明王朝的历史中概括了明初的这样一种观点，即胡惟庸等人意在弑君。为了达到这个目的，他们派遣明州(今宁波卫指挥与日本人勾结。与此同时，有个名叫封绩的人——学者们对于到底有无此人甚表怀疑——据说曾被派到元朝统治者脱忽思帖木儿处传递消息，要求元君岀兵支持政变。
可是，正是由于胡惟庸本人傲慢自大，阴谋败露。有天，胡惟庸的儿子在南京坠马，死于路过的马车轮下。胡惟庸杀了马车夫以泄愤。当此事上闻于皇帝时，他大怒庸赔偿马车夫的家属。可是当胡惟庸请求向马车夫的家属赔偿黄金时，皇帝又不许他这样做。这使得胡惟庸害怕起来，因此他和御史大夫陈宁以及中丞涂节，阴谋发动兵变。
1379年末，占城国派使来南京进贡。但是胡惟庸没有将使节的到来奏闻，作为丞相这是失职行为。当皇帝最后终于得知占城国使团抵达南京时，他被激怒了，训斥了胡惟庸及其同僚左都御史汪广洋。胡惟庸和汪广洋诿过于中书省。皇帝此时大为震怒，命令处死汪广洋，并囚系了其他有责任的官员。1380年初，涂节把胡惟庸的阴谋上报给皇帝。经过了一番调查，皇帝命令处死胡惟庸、陈宁和涂节，哪怕涂节曾禀奏了这个阴谋案件也未被免于一死。这一调査断断续续地进行了十来年；最后，甚至连皇帝最信任的安徽籍顾问李善长也被牵连了进去。
还有一些材料说，胡惟庸以观赏他家中的醴泉为借口，曾约请皇帝驾临他家。胡惟庸准备刺杀君主，但是他的计划受挫，因为宦者云奇跳岀来挡阻皇帝临幸与皇宫相距不远的胡惟庸的第宅。这名宦官风闻这个阴谋，以致他激动得讲不岀话来。皇帝发了脾气，命人当场痛加责打，但是纵然他被打得几乎臂折，他也拼死地指着胡家住处。这使得洪武帝警觉起来，他登上宫墙看望胡家的地面。
他隐隐地看见了胡惟庸暗藏的准备行刺的军队，于是他认识到几乎踏进了陷阱。在这以后不久，胡惟庸便被公开处死了尽管这些故事矛盾百出，但似乎可能的是，胡惟庸曾经利用权力把自己的党羽安插进官僚体制中，而且实际上已从内部接管了行政大权。胡惟庸究竟是否超越了他的合法权力而要纠集一个听命于他的文官死党集团并实际上想谋逆，像日益猜疑的皇帝所指称的那样，这一点至今还是不清楚的。
皇帝对这一觉察到的威胁的反应是撤消了曾经是胡惟庸权力基地的中书省，同时撤消了其他一些最高行政机构。这些机构包括大都督府和御史台。所剩ˉ的就是它们下面的一些支离破碎的行政统治机构。军事方面现在改归较低级的五军都督府领导，它们均直接向皇帝负责。御史制度在1382年设立都察院前一直缺乏统一领导。另外，皇帝在1380年一度撤消过按察司。经过这些改动之后，监察工作中有些未动部分便由新设立的谏院担当起来，但是我们对这个机构知之甚少；它在1382年又被取消了。
