于是乎，他的文武大臣，联名上书，建议朱元璋再上一个台阶——古文称为“劝进”，就是劝告他称王称霸的意思。稍稍谦让之后，朱元璋在公元1356年，他的儿子朱标还不到一岁时，他自己还不到29岁时，在今天的南京自称“吴国公”！接着，朱元璋把李善长等文人皆安排到位。由于当时主要是战时的安排，这个文官政府也是围绕战时军事而设置的。左右参议为李善长和李思颜，其他的侍从官皆为军事参谋或者文学博士。他们一起组成朱元璋的智囊团。
文官体系之外，朱元璋对军队进行了破费心血的建构。
在攻城掠地之后，他任命将领为某地统军元帅，本来一方面是酬劳这些将领，另一方面也需要他们镇守该地。但，占据的城邑一旦多起来，他们的官阶的确需要用一个标准来分高下的。于是，朱元璋设置前后左右中五军元帅府，每军帅府中，皆设先锋官。这些元帅和先锋在攻城掠地之后，有委以当地镇守官者，仍为五军元帅或先锋。
而且，朱元璋划分不同战区，设行枢密院（就是战时国防部），由行枢密院使统管全战区的军事调度。比如，现在，他就划分出一个江南行省，以汤和为江南行省行枢密院使。总之，军队体制越来越复杂。
不过，在诸多建设中，有三个机构是必须加以说明的。第一个，是提刑按察司。听名字就知道是一个司法监察机构——朱元璋之法治思维从一开始就很强。也很严。第二个，亲兵侍卫队——原名叫亲军。由心腹冯国用领军，负责包围吴国公朱元璋。第三个，叫左右兵马司。凭名字搞不懂它的职能，它负责纠察奸恶——与提刑按察司不同的是，它专管军队。其实，后来就变成锦衣卫。一整套文武架构，看起来很复杂很枯燥，但是一旦正常运作起来，这个吴国公政府却是井井有条的。
最后，必须补充的是，朱元璋还设置了一个经济部门，叫“营田使”——就是负责生产军粮的部门。他的军队饿肚子饿怕了！也不能老是占用百姓的粮食，于是，参考前代的做法，动用军人或者新归附的无业无田地者，进行“屯田”。
于是乎，从政治、军事到经济上，朱元璋的政府机构逐步完善到位。这一套官僚架构的正常运行为他夺取更大的胜利夯实了基础，提供了有力保障。
于是乎，他做好准备了。张士诚也正式对朱元璋宣战了！自称吴国公，却仍然使用亳州大宋龙凤政权的年号，朱元璋仍然是小明王的部属。但是，由于郭子兴的小儿子郭天爵也被小明王委任为龙凤政权的一位丞相。他曾不止一次对朱元璋采取敌视的态度，甚至多次谋害朱元璋。此时，又纠集一群郭子兴的元老旧属图谋杀害朱元璋，抢回最高统治权。结果，事情败露，朱元璋采取了最严厉的惩罚——全部处死！
至此，郭子兴家族完成了它的所有的历史使命，朱元璋双手沾满了郭氏的鲜血，导致他越到晚年就越悔疚，不断思忆郭子兴的大恩，不断命太常司——专门负责皇家祭祀的部门发起纪念郭子兴的活动。可是，郭子兴的两个儿子，一个被他借刀杀人之计搞掂，一个又因谋反被处死！这就是政治！剩下的，郭氏就剩下可怜巴巴的几个妇人！为求生存，子兴的两个老婆大小张氏只好向义女马秀英求助。结果，朱元璋又做新郎官——娶了子兴的另一个女儿——郭妹妹为妾氏！
自此，朱元璋集团再无杂音！
既为吴国公，就得着手组建政府机构了。在众多的参谋的筹划和建议下，吴国公朱元璋首先确立了文官政府的地位。这点，很明显，受了汉高祖刘邦的反面启发：马上得天下者，焉能以马上治之？当然也受了宋朝的正面启发：文官政府可以消除更多的叛乱。在整个文官政府中，李善长之地位最高。在元璋的眼中，李善长就是刘邦的萧何！镇江之战，是朱元璋和张士诚的第一战。虽然规模不大，却足以反映一个事实：朱张二雄，势不两立！
之前，有黄包军头目陈二保归顺了占据镇江的徐达、汤和军队。随后，陈二保又投靠了张士诚。这次，张士诚派陈二保领水师进攻镇江。对陈二保这个名不见经传的对手来说，徐达要取胜简直易如反掌。双方在龙潭遭遇，结果进攻的陈二保大败而逃！张士诚的另一支军队在陈二保去镇江撩交打的同时，出动去抢夺宜兴城。宜兴，是太湖西边的重镇，其时为朱元璋控制。但张士诚部队投入战斗后，守将耿君用战死。宜兴遂为张士诚所有。至此，太湖四面皆举天佑诚王旗号！
太湖之渔利尽为张士诚所有！朱元璋急忙致书徐达，说，张九四起于盐贩子，诡计多端。现在他派兵争夺镇江，表明敌我关系正式确立，不可能是睦邻友邦了。你应该迅速出兵，务必占领毗陵城，挫其锐气，阻止他们的奸计。毗陵，就是常州的古称。徐达领命，马上兵发常州。——此时，宜兴失守的战报还没传到朱元璋的耳边，故此，他在书信中没有提及宜兴之事。徐达大军进逼常州，几次战斗后，他把战况汇报朱元璋，说，敌人已经无法反击了。
但为了早日胜利，请求增加兵力，一鼓作气，占有这座军事重镇。朱元璋亲率三万大军，增援徐达。常州城下，徐达驻军西北，汤和驻军城北，东南则由张彪驻军。于是，三方合力，会战常州。张士诚急派弟弟猛将张士德统兵数万增援！于是乎，朱元璋和张士诚的第一场大会战——常州会战开始了！常州会战，双方投入的总兵力超过十万，是元朝末年，民变军窝里斗的第一次最大规模的绞肉战场。张士德，小名张九六，英勇善战，智力过人。张士诚凭着这个得力的弟弟助手，取平江，克杭州，攻湖州，一路势如破竹，十分得意。
