由於南京臨時政府存在短暫，尚未能夠對全**隊實行有效指揮，各省軍隊主要掌握在地方當權派手裡，所以，此時並沒有真正形成軍事力量的統一編製和管理體系。()臨時政府當時頒布的《陸軍官佐士兵階級表》，對軍銜的等級和稱謂做了如下規定：第一，上等官佐：大將軍、左將軍、右將軍；第二，中等官佐：大都尉、左都尉、右都尉；第三，初等官佐：大軍校、左軍校、右軍校；第四，額外軍官：司務長；第五，軍士：上士、中士、下士；第六，兵：上等兵、一等兵、二等兵。
北洋政府的軍事編制及管理體系，主要是在繼承清末新軍的制度基礎上演化而來，一般分作中央軍和地方軍兩大系統；軍種以陸軍為主，有少部分海軍，空軍處於萌芽階段。
陸軍是主要軍種，陸軍中主要是步兵，另有騎、炮、工、輜重、通訊等兵種。根據1912年8月頒布的《陸軍部官制》和1914年頒布《修正陸軍部官制》的規定，陸軍編制層次依次為師、旅、團、營、連、排。根據《陸軍平時編製條例》，對基本戰略單位「師」的編制為：每個陸軍師有兩個步兵旅、一個騎兵團、一個炮兵團、一個工兵營、一個輜重營。其中，每個步兵旅轄兩個團；每個團下轄三營和一個機關鎗連；每個營下轄四個連；每個連下轄三個排。騎兵團分為甲乙兩種，甲種下轄四連，乙種下轄三連，每個連下轄四個排。炮兵團下轄三個營，每個營下轄三連，每個連下轄三個排。工兵營下轄三連，每個連下轄三個排。輜重營下轄三連，每個連下轄三個排。混成旅則是北洋政府統治時期大量出現的一種特殊的編制，由於缺乏法定編製的約束，各混成旅的規模也存在著較大差異。中央軍隊主要是師和混成旅，北洋政府時期的師有二十餘的，混成旅有二十餘個，此外，還有駐守京師的憲兵五營、陸軍部衛隊營等。
北洋政府時期的海軍規模較小，共有艦艇40餘艘，總排水量約4萬噸。只編成了第1艦隊、第2艦隊、練習艦隊，各艦隊所轄軍艦數目不等。根據1914年公佈的《海軍艦艇職員令》的規定，軍艦設有艦長、協長、航海、槍炮、魚雷、輪機長、軍需、軍醫等不同職位，士兵若干。海軍陸戰隊為營制，下轄四連，每連下轄三排，每排四十人。
北洋政府時期的開始從國外購買飛機組建空軍，20年代以後，各派軍閥陸續組建航空學校或航空司令部，編練了規模很小的航空隊。
北洋政府統治時期，軍閥割據，擁兵自重，各立名目，軍隊編制混雜，如有警備隊、游擊隊、守備隊、巡防營、稽查隊、討逆軍、討賊軍、自治軍等。當時，正式設置或被政府認可的地方軍事管理機構有如下幾類：
第一，都督府、將軍行署、督軍公署等作為北洋政府設置的省級軍事機構，先後負責主管一省軍政事宜。武昌起義後，各省成立都督府，設都督為最高軍政長官。後來，袁世凱改都督為將軍；1916年7月，將軍又被改為督軍；1924年後，督軍改稱督理或督辦，其機構為督辦公署。
第二，巡閱使、經略使、檢閱使等作為北洋政府設置的跨省性軍事機構，是高於省級的軍政職官，有的轄兩省，如閩粵巡閱使；有的轄三省，如直魯豫巡閱使、東三省巡閱使、蘇皖贛巡閱使；還有的並不轄省，如長江巡閱使、海疆巡閱使等。巡閱使的職權設置沒有統一的法規，實際權限多因人而設。按照規定，巡閱使只負責統轄該區域內的陸軍，與其各省軍政長官一道籌辦處理有關軍事事務，在形式上屬陸軍部管轄；而海疆巡閱使，則屬海軍部管轄。
第三，護軍使作為北洋政府設置的臨時性地方軍事機構，是設於無軍政長官省區的軍政職官，往往冠以省名或地名等。護軍使署的編制，一般參照省級軍政長官公署的規定。個別護軍使也有設副使的，稱護軍副使。
第四，鎮守使作為北洋政府於省內某一要地設立的地方軍事機構，普遍設於邊疆及重要大城市，鎮守使多由師長、旅長(中將或少將)兼任。
根據北洋政府公佈的《陸軍官佐士兵等級一覽表》、《海軍官佐士兵登記表》、《航空軍官佐官等官俸條例》規定，陸海空的軍官分為三等九級，即上等將官，為上將、中將、少將；中等校官，為上校、中校、少校；初等尉官，為上尉、中尉、少尉。陸海空軍的士兵分為軍士、兵兩等，軍士分為上士、中士、下士三等，兵分上等兵、一等兵、二等兵，共三等。
1928年南京政府在形式上統一全國以後，國民黨收編了北洋各系軍隊，仍沿用北伐戰爭的「國民革命軍」稱號，繼續保持了陸海空三個軍種，它包括中央軍和地方軍兩大系統，中央軍以國民黨嫡系部隊為主，地方軍則主要由各地各派系控制的雜牌軍為主，諸如東北軍、西北軍、川滇軍、桂軍、晉軍、粵軍等，統稱為國防軍。起初，依然以師為戰略單位，軍被作為戰時指揮機構，後來逐漸轉為以軍、師兩級戰略單位先後交替使用的編制序列。20年代末30年代初，大約有近50個軍的番號，約有近20個獨立師。到1932年國民政府通令，全國分為48個軍。軍隊建制一般依次為軍、師、旅、團、營、連、排、班的編制。特殊情況下，有幾個軍組成的一個集團軍；根據甲乙丙等的編制，下轄單位分別採用二進制或三進制；還有加強排、連、營、團的編制出現。除正規軍外，還有一支「綏靖」地方的保安部隊存在。抗戰勝利後，南京國民政府的正規軍達到200萬人，非正規的憲兵、警察、軍事機關、軍事院校等達到200餘萬人，再加上地方保安部隊400萬人，共計約800萬人。
南京國民政府的國防軍，逐漸組建了炮兵、工兵、通信兵、鐵道兵、汽車兵、裝甲兵、傘兵、防化兵、憲兵等特殊兵種。海軍部直轄第1、第2艦隊、練習艦隊、魚雷游擊隊和測量隊、巡防隊、航空隊。到1937年海軍共有各型艦艇120餘艘，總排水量約6。8萬噸。抗戰爆發後，保留第1艦隊、第2艦隊的番號，建立海軍炮隊、海軍特務隊和海軍雷隊。抗日戰爭勝利後，先後通過收繳和接受援助等方式，獲得並保留大小艦艇400餘艘，編入戰鬥序列275艘，官兵4萬人，組建成海防第1艦隊和第2艦隊、江防艦隊、運輸艦隊及10個炮艇隊。到30年代，空軍成為南京政府國防軍的獨立軍種，基本建制以空軍大隊為單位，大隊下轄三個隊，隊下轄三個分隊。1937年前建成七個空軍大隊，全面抗戰爆發後又建立了一個轟炸機聯隊。
1931年南京國民政府頒布《陸軍軍官佐及士兵等級表》，沿用北洋政府時期的軍銜制，1934年和1935年為適應需要，國民政府先後對軍銜進行修訂，重新制定了《陸海空軍官製表》和《陸海空軍士兵等級表》，頒布新的軍銜等級：將官分為特級上將、一級上將、二級上將、中將、少將；校軍分為上校、中校、少校；尉官分為上尉、中尉、少尉；此外，還設有准尉一級；軍士分為上士、中士、下士；兵分為上等兵、一等兵、二等兵。特級上將是專為蔣介石而設立的，這一最高軍銜特定授予陸海空軍最高軍事長官。
作為國民政府的地方軍事機構，先後曾設有軍事委員會分會組織、軍事委員會委員長行營、綏靖公署、戰區長官司令部、集團軍總司令部、警備司令部、城防司令等。