朱元璋建立明朝之初，设有宰相制，宰相都称为丞相，当时丞相共有左、右二员，左比右大，分任左、右丞相的是李善长和徐达两人。

    朱元璋即帝位后，逐渐感到帝权与相权的冲突，唯恐臣下权力太大，会导致元末“宰相专权”、“臣操威福”的局面重演。有鉴于此，几次设法试图调整，以加强皇权。最早被杀的是中书左丞相杨宪。杨宪于洪武二年九月入为中书右丞，洪武三年李善长病休时，便实际操纵中书省大权，升为左丞。他玩弄权术，陷害同僚，“市权要宠”，很快被朱元璋杀死。

    接着是右丞相汪广洋被杀。朱元璋鉴于李善长权力过大，威胁帝权，于是在撤换李善长后，最初选中了汪广洋接替李善长的相位。汪广洋遇事小心谨慎，又以“廉明持重，善理繁剧”而著称。

    洪武六年，胡惟庸进入中书省，与汪广洋共任右丞相。之后，汪广洋以“无所建白”贬为广东参政。但是汪广洋一离相位后，胡惟庸遇事专断与李善长相比有过之无不及。况且李善长还借胡惟庸等人，遥执相权，势力更甚于前。

    汪广洋被贬后，当然也不服气，便暗中收集李善长的不法证据，于洪武九年（1376）与御史大夫陈宁，合疏参劾李善长有“大不敬”之罪。这当然正中朱元璋的下怀，于是洪武十年九月，朱元璋先升胡惟庸为左丞相，再调回汪广洋为右丞相，以牵制胡惟庸，改变胡惟庸独相的局面。

    然而汪广洋复相后，整日喝酒，并没有起到应有的牵制作用，反而事事调和，公事“惟以他官剖决，不问是非，随而举行”。这令朱元璋大为失望，又把他贬往广南地区。即使这样，仍未能平息朱元璋的怒气，便又追加诏书，下令追到后，即将汪广洋就地处死，洪武十二年十二月汪广洋被贬杀。

    由上可知，明初的丞相擅权不行，尸位素餐也不行，放权、抓权均无好下场。朱元璋对于相权的存在实际上已深为反感，他不能容忍相权过大，绝不希望有凌驾于众人之上的权臣存在，废相只是时间问题。

    然而胡惟庸的独断专行，使相权与皇权的冲突更为明朗化了。胡惟庸之前，李善长小心谨慎，徐达经常带兵在外，汪广洋只知饮酒吟诗，皇权与相权的矛盾尚不突出。但胡惟庸为相七年，擅权乱政，使得朱元璋感得大权旁落，除了剪除别无选择。

    早在洪武十一年三月，为了限制丞相的权力，朱元璋就下令凡奏事不得先“关白”中书省。在此之前，凡是各地送给皇帝的奏章都要关白中书省，就是给皇帝一份，同时也要给中书省丞相送一份。接着，又令六部奏事不得关白中书省，这样就大大削弱了中书省的权力。然而即使这样，也还不能令朱元璋满意。

    于是就有了洪武十三年的胡惟庸案，朱元璋接着就宣布裁撤中书省。丞相废除后，其事由六部分理，