朱元璋進行上述變革和調整的根本目的是進一步強化君權，主要手法是分化、弱化大臣之權，他對地方行省、中書省和大都督所作的一系列變革莫不如是。朱元璋罷丞相，是對一千多年中央政治制度的一次重大變革。不設丞相，六部直接將全國政務奏請皇帝裁決，實際上是皇帝兼行相權。皇帝不得不處理更多的政務，據說朱元璋每天要看200多份奏章，處理400多件政事，相當辛苦。由此，**主義皇權到了朱元璋手中得到了空前的加強，他也成為歷史上最有權勢的皇帝之一。不過，如此高度集中的皇權也會產生負面影響，因為沒有相應的約束機制，明代中後期皇帝為所欲為，極度腐朽，甚至數十年不上朝。
設立特務組織。朱元璋生性雄猜，加強了對大臣的監視。開始時，他派遣一些檢校、僉事明騎馬武士俑等人暗中偵查大臣的舉動，也沒有逮捕和審訊的權力。當時最著名的特務是高見賢、夏煜、楊憲和凌說，專門刺探別人的陰事，"四人以伺察搏擊為事"，"專主察聽在京大小衙門官吏，不公不法及風聞之事，無不奏聞"。"惟此數人，譬如惡犬，則人怕"。朱元璋的目的很明確，就是要讓大臣對自己和大明江山忠心無二，要他們知道恐懼，防止他們營私舞弊、結黨亂政。事無鉅細，家長裡短，都被朱元璋探知。有一個非常有名的例子，可以看出當時的恐怖情景。錢宰被征編《孟子節文》，罷朝回家做了一首詩："四鼓鼕鼕起著衣，午門朝見尚嫌遲。何時得遂田園樂，睡到人間飯熟時。"第二天上朝時，朱元璋告訴他昨天詩作得不錯，只是並沒有"嫌"他遲，不如改成"憂"字更好些。錢宰聽後大驚失色，嚇得直磕頭謝罪。類似的事例還有很多，所以大臣們都提心吊膽，就連李善長、徐達這樣的功臣也人人自危。
洪武十五年，朱元璋為了加強監視，特別設立了特務機構錦衣衛，成為他實行特務政治的重要手段，也形成了歷史上有名的明代特務政治。錦衣衛隸屬於皇帝的親軍體系，長官為指揮使，下領官校。官為千戶、百戶，校為校尉力士，因穿橘紅色服裝，騎馬，故又稱"緹騎"。明初"緹騎"只有數百人，明中後期達到十幾萬人之眾。錦衣衛下設鎮撫司，有監獄和法庭錦衣衛木印
，成為"詔獄"，直屬於皇帝，權力很大。錦衣衛職掌"侍衛、緝捕、刑獄之事"。太祖時，"天下重罪逮至京者，收系獄中，數更大獄，多所斷治，所誅殺為多"。
朱元璋設立錦衣衛為明代後來的皇帝做了一個惡劣的開端。永樂十八年，成祖朱棣在錦衣衛外，另設東廠，因設於東安門北而得名。成化十三年，憲宗設西廠，由汪直統領。正德初年，權閹劉瑾奏設內行廠，自領之，職權更廣，雖錦衣衛、東廠、西廠亦在偵緝範圍之內。正德五年，隨劉瑾被誅而內行廠廢止。終明一朝，西廠、內行廠存在時間不長，而錦衣衛、東廠則存至明亡。這些特務機構，成為維護皇權的重要手段，但更多的時候是被專權的太監如劉瑾、魏忠賢等人所利用，成為打擊報復大臣的有力武器，不知有多少忠臣慘死其中。
朱元璋所進行的這些制度更張，儘管後世或臧或否，評價不一，但基本實現了他的初衷，也算稱心如意。只是有一件事，卻困擾了他近30年，遲遲無法解決。
陷入定都困擾。朱元璋登基稱帝前後，對於國都的確定幾經周折。最初朱元璋參加農民起義軍後，一直活躍在江淮之間。然而這裡土地貧瘠，民生艱苦，而且接近元朝的軍事力量，不利於自己的發展壯大。為了謀求更大的發展空間，成就不世之偉業，必須另擇一個既有經濟保障又地形險要的根據地，這樣金陵就進入了朱元璋的視野。金陵，北有長江天塹，為形勝之地，三國吳，東晉，南朝宋、齊、梁、陳，五代十國的南唐都曾以此為都城。馮國用首先向明南京城牆朱元璋建議攻取金陵，"金陵龍蟠虎踞，帝王之都，先拔之以為根本，然後四出征伐，倡仁義，收人心，勿貪子女玉帛，天下不足定也"。陶安也建議先取金陵，據形勢以臨四方。葉兌也上書請求定都金陵，然後就可以拓地江廣，進軍兩淮，北征蒙古，退軍又可以據長江以自守。元至正十六年，朱元璋聽取謀士的意見，攻取金陵，改稱應天府，修建宮殿，以此為爭奪霸業的基礎。此後十餘年間，朱元璋南征北戰、四出征討，將江南群雄依次消滅。洪武元年正月，朱元璋在應天稱帝，在即位詔書中稱應天為京師。
然而朱元璋只是暫時肯定了應天作為京師的地位，並沒有正式確立國都。作為自己成就霸業的地方，朱元璋為何不肯確立應天為國都呢？首先，朱元璋覺得以應天為國都的歷朝都是氣數不久，似乎不太吉利。其次，有些大臣認為"有天下者，非都中原，不能控制奸頑"，明南京聚寶門藏兵洞
而且應天偏處江左，在位置上作為國都不是十分理想。三月，朱元璋派兵攻取汴梁。許多人建言定都汴梁。朱元璋很重視，於四月親自前去實地考察。他認為汴梁雖然位置適中，但是無險可守，四面受敵，論形勢不如應天。八月，朱元璋正式下詔，以應天為南京，汴梁為北京。朱元璋既然對汴梁不甚滿意，為何又要定為北京呢？原來他考慮到汴梁是宋朝的舊都，北上征討元朝時可以喚起北方民眾的民族情感，有很大的號召力；而且當時西北未定，需要將汴梁作為運送糧草和補充兵力的基地。
雖然確定了應天、汴梁的兩京制度，但是朱元璋並沒有修建汴梁的打算，他還在尋找更加合適的地方。洪武二年八月，平定陝西。在這種情況下，定都之議再起。九月，朱元璋召集大臣商議國都之地。大臣各抒己見，主要集中在長安、洛陽、應天、汴梁、北平等地，"或言關中險固，金城天府之國；或言洛陽天地之中，四方朝貢，道裡適均，汴梁亦宋之舊都；又或言北平元之宮室完備，就之可省民力"。朱元璋在分析各地利弊之後，提出了以臨濠為中都的想法，"所言皆善，惟時有不同耳。長安、洛陽、汴京，實周、秦、漢、魏、唐、宋所建國，但平定之初，民力未蘇息，朕若建都於彼，供給力役悉資江南，重勞其民。若就北平，要之宮室不能無更，亦未易也。今建業長江天塹，龍蟠虎踞，江南形勝之地，真南京莫愁湖勝棋樓足以立國。
臨壕則前江後淮，以險可恃，以水可漕，朕欲以為建中都，何如？"臨濠在元朝時稱為濠州，洪武七年改稱鳳陽，是朱元璋的家鄉，群臣豈敢有異議？這樣，明初就形成了南北兩京、中都並存的情況。從九月開始，朱元璋下令仿照南京規制在臨濠營建中都。他之所以決定以臨濠為中都，甚至一度想遷都臨濠，除了這裡是他的家鄉，還與優待淮西功臣集團有關。眾所周知，朱元璋在起兵反元建立明王朝的過程中，淮人多隨同他東征西討，立下功勞，成為開國功臣，包括丞相李善長、徐達和功臣湯和、耿君用、耿炳文、郭興、郭英、周德興、常遇春、陸仲亨、曹震、張翼、陳桓、謝成、李新、何福、張龍、張赫、胡泉、陳德、王志、唐勝宗等人，其中湯和與周德興還是朱元璋同村夥伴。能夠光宗耀祖、榮歸故里，當然是他們所願意的。
然而洪武八年四月，朱元璋在巡視中都修建情況後，突然下令停止修建。此時中都修建達6年之久，已經頗具規模。停建的理由是勞民傷財，其實更深層次的原因是朱元璋與淮西功臣集團矛盾日益加劇。淮西功臣恃功自傲，多有違法亂紀之事，而且在朝廷中結黨謀取私利，與朱元璋加強皇權背道而馳。他擔心在淮西功臣集團的老家建都，會更加助長他們勢力的膨脹。洪武十一年正月，朱元璋下詔改南京為京師，定都問題才算告一段落。
其實，朱元璋對南京一直不是很滿意，遷都的想法從來沒有打消過。洪武二十四年，朱元璋派太子朱標巡視關中，頗有遷都關中的打算。當時，明朝的主要威脅是蒙古草原上的北元殘餘力量。遷都西北，可以加強北方邊防，安定邊界。