現在還剩下一個平西將軍、荊州刺史司馬休之。
司馬休之是晉王朝的宗室，他代劉毅為荊州刺史後，深得江、漢一帶人心，劉裕覺得他是自己將來的一個障礙，就想除掉他。
義熙十年，劉裕先以其性情凶暴的長子司馬文思多行不法為由，把文思送給司馬休之，讓他嚴加訓誡，實際上是要他殺掉他的兒子——這實在是強人所難。司馬休之只是上表朝廷廢黜兒子的繼承權，並向劉裕表示道歉而已。
到了次年正月，劉裕在京都收捕司馬休之的兒子文寶和侄子文祖，隨即殺了他們，然後率領大軍西討司馬休之。
雍州刺史魯宗之自疑終究不能為劉裕所容，就率領他的兒子竟陵太守魯軌起兵響應司馬休之。劉裕派參軍檀道濟和朱石挺進襄陽，江夏太守劉虔之率兵聚糧等待他們，但檀道濟遲遲不來，魯軌襲擊劉虔之並殺了他。劉裕又派其女婿振武將軍徐逵之率領參軍蒯恩等挺進江夏口（長江與夏水交匯口，在今湖北沙市境內），徐逵之等與魯軌激戰，兵敗被殺。劉裕時在江陵城對岸，得知女婿死況，大怒，親自披甲渡江，司馬休之四萬兵一時崩潰；劉裕又派遣武陵內史王鎮惡等追擊，司馬休之與魯宗之魯軌父子北逃後秦。
朝廷加劉裕太傅、揚州牧，劍履上殿，入朝不趨，贊拜不名，任命其弟劉道憐為荊州刺史。
劍履上殿，就是重臣上朝時可以不解佩劍，不脫鞋子；入朝不趨，就是上朝時不必小步快走，可以邁著方步；贊拜不名，是指朝拜皇帝時，贊禮的人不直呼其姓名，只稱其官職：這都是帝王給予重臣的一種特殊禮遇。最早是劉邦因蕭何「功第一」而給予蕭何的禮遇，但也只有「劍履上殿，入朝不趨」兩條，後來董卓也享有了這種待遇；到了曹操，就變成了三條「贊拜不名，入朝不趨，劍履上殿」，還說是「如蕭何故事」。曹操以後，這三條基本上就連用了。
義熙十二年（公元416年）正月，朝廷加劉裕兗州刺史，都督二十二州諸軍事，以其十一歲的世子劉義符為豫州刺史。三月，朝廷又加劉裕中外大都督。所謂朝廷，當然都是劉裕或其親信的意思。
這年二月，後秦主姚興死，其子姚泓即位，兄弟相殺，關中擾亂。
到了八月，劉裕讓左僕射劉穆之入居東府總攝內外，太尉府左司馬徐羨之協助他，自己親率大軍北伐後秦：龍驤將軍王鎮惡、冠軍將軍檀道濟率步兵從淮河、淝水挺進許、洛，新野太守朱石、寧朔將軍胡藩挺進陽城（在今河南登封東南），振武將軍沈田子、建威將軍傅弘之挺進武關（在今陝西丹鳳東南），建武將軍沈林子、彭城內史劉遵考率領水軍從汴水進入黃河，以冀州刺史王仲德督前鋒諸軍。
王鎮惡、檀道濟進入後秦境內，所向披靡，後秦徐州刺史姚掌和兗州刺史韋華相繼投降，隨後晉軍又攻克許昌。王仲德的水軍進入黃河逼近滑台（在今河南滑縣東滑縣城，北臨古黃河，軍事要地。後為北魏四鎮之一），魏守將兗州刺史尉建棄城渡河，王仲德佔據滑台，魏人斬了尉建投屍黃河。
到了十月，後秦洛陽守將陳留公洸被迫出降，檀道濟進入洛陽。朝廷下詔派遣高密王司馬恢之祭掃五帝陵（晉之三祖宣、景、文陵墓和晉武帝、晉惠帝陵），太尉劉裕讓冠軍將軍毛修之戍守洛陽，主持司州事務。
十一月，劉裕派遣左長史王弘回建康諷朝廷求九錫。九錫，是天子賜給諸侯、大臣的九種器物，是一種最高禮遇。魏晉六朝掌政的大臣將要奪取政權、建立新王朝都會沿襲王莽篡漢先邀九錫故事，後來以九錫為權臣篡位的先聲。當時劉穆之留任京都，他見王弘帶著旨意從北方來，自覺遲鈍——劉公那麼信任自己，而自己卻不能體會劉公的心意，劉公豈不要責怪自己不夠忠心嗎？於是在憂懼之中病。
十二月，朝廷下詔以劉裕為相國、總百揆、揚州牧，封十郡為宋公，備九錫之禮，位在諸侯王之上，劉裕對朝廷給予他的厚禮又辭讓不受。這都是他學前人的樣子：一方面要給自己造勢，另一方面又擺出高姿態以贏得聲譽。
義熙十三年（公元417年）正月，劉裕率領水軍從彭城（今江蘇徐州）出，帶著被封為桂陽公的次子劉義真，一同前往，留下第三子彭城公劉義隆鎮守彭城，朝廷隨即任命劉義隆為徐州刺史。
其後劉裕的大軍從淮河、泗水進入清河，然後再進入黃河，溯流西上，他們派使者向魏人借道，魏主拓跋嗣派十萬兵駐紮黃河北岸以防晉軍入侵。在劉裕西行的過程中，魏兵數千騎兵始終沿著北岸監視晉軍西行，晉軍船只有因風漂流到北岸的，魏軍就殺了船上的軍人，這大大激怒了劉裕，他令壯士丁晤帶領七百人渡河，在岸邊擺好卻月陣，然後張設大弩，魏軍包圍他們，大弩用不上了，他們又改用大錘錘擊短槊，一槊能貫穿三四個人——槊是一種長桿的矛,截斷長桿就成短槊。魏軍不能抵擋，崩潰，晉軍乘勢追擊，殺死、俘虜了上千人，臨陣斬了魏的冀州刺史阿薄干。
晉各路軍雖有阻礙，但總勢節節向前。
四月，劉裕到達洛陽。七月，進入陝縣（在今河南三門峽）。
八月，劉裕進入潼關。此時王鎮惡率領水軍從黃河進入渭水，直趨後後秦都城長安，後秦軍奮力抵抗，王鎮惡身先士卒，在長安東北的渭橋大破秦軍，前來援救的秦主姚泓單馬逃回宮中。王鎮惡攻破北門，姚泓見大勢已去，不得不帶著他的妻子兒女和群臣到王鎮惡的軍營門前投降。
九月，劉裕進入長安，他對前來迎接的王鎮惡說：「成就我霸王大業的，是卿啊！」
劉裕把收繳來的後秦的彝器、渾儀、記裡鼓、指南車等送往建康，其餘金玉珍寶都獎賞給了將士，而對前來投降的後秦貴族，劉裕把他們都殺了——他的這一做法往往為世人詬病。原先逃亡後秦的司馬休之和魯軌等盡皆逃亡北魏。隨後，劉裕又把姚泓送往建康，斬之於鬧市。
至此，後秦歷三帝三十四年而亡。
在前後八年的時間裡，劉裕滅了北方十六國中的兩個國家，這在建都江南的政權裡，還沒有人能做到。
劉裕原準備繼續經略趙、魏，即平定中原，這時留守京都的劉穆之病亡，劉裕覺得根本無所托，或許會出現意外，於是決定盡快東回，留下十二歲的次子桂陽公劉義真鎮守長安，任命他為安西將軍、雍州刺史，同時留下心腹將領輔佐他：太尉咨議參軍王修任長史，王鎮惡任司馬兼馮翊太守，沈田子、毛德祖任中兵參軍。
三秦（秦王朝滅亡，項羽把秦故地關中三分）父老聽說劉裕要東歸，失望之餘流淚挽留：「殘民不沾王化，至今百年；見王師奏捷，人人相賀。長安十陵是公家墳墓，咸陽宮殿是公家室宅。為何棄此東歸？」劉裕聞言歎息，但不得不離開長安。
——歷史往往是相似的。六十年前，桓溫率領晉軍在關中打敗前秦取得巨大勝利，三秦父老感動流淚：「想不到我們還能在活著的時候看到官軍回來！」但隨即桓溫撤退，最終敗歸。這一次的不同只是劉裕並非敗歸，並且還留下了一支強勁的部隊鎮守。
義熙十四年（公元418年）正月，晉軍的內亂開始了：沈田子因與王鎮惡有私怨，假稱受太尉令，殺了王鎮惡；義真得知後，就帶著人和王修一道去殺了沈田子。
六月，太尉劉裕才受相國、宋公、九錫之命；宋國依照朝廷的制度設立百官：左長史王弘為僕射，負責選舉官員，從事中郎傅亮、蔡廓同為侍中，謝晦為右衛將軍，行參軍殷景仁為秘書郎。
十月，有將領在義真面前詆毀王修：「王鎮惡想謀反，沈田子就殺了他；王修殺了田子，也是想謀反！」這個少年只有十二歲——十二歲還是虛齡，古人以虛數記齡，除夕出生，過了幾個時辰到了大年初一就是兩歲了。一個十二歲的娃娃率軍駐紮在這裡，他原只起一個符號的作用，或者說是一個象徵，他哪裡有什麼分辨的能力！這個少年信以為真，就讓人殺了王修。
一時關中大亂。劉裕得知後急忙派輔國將軍蒯恩去長安召義真東歸，讓朱齡石去代替義真為雍州刺史：「若關中不可守，就和義真一同回。」
十一月，朱齡石到達長安。晉軍聽說要東歸，就大肆掠奪財寶、女人，裝了一車又一車。
建都統萬（在今陝西靖邊縣境內）的夏主赫連勃勃得知這一消息後想佔有晉軍滅後秦的果實，派三萬騎兵急追晉兵，在青泥（在今陝西藍田）大戰，晉兵大敗，義真與將佐散失，獨自逃入草叢中，幸虧中兵參軍段宏單馬追尋，把他繫在背上騎馬逃回。輔國將軍蒯恩和司馬毛修之等被夏兵俘虜，朱齡石、朱石兄弟同被赫連勃勃殺死。
——桓溫最後一次北伐的對象是前燕，後來晉軍屢遭挫敗，桓溫被迫燒掉船隻，丟棄輜重，從6路撤退；慕容垂就率大軍緊緊跟隨，跟了幾天幾夜，見晉軍盡顯疲態，就縱兵四擊，晉軍大敗，被斬三萬級。可見敗逃的路往往是多麼艱難，也是多麼相似。
劉裕聽說青泥大敗，還不知道義真死活，準備再度北伐，後來謝晦和鄭鮮之極力勸阻，而段宏也帶著義真歸來，他才沒有成行。
儘管青泥大敗，但是到這個時候，劉裕依靠南征北戰，已經使得晉王朝的領土大大擴展，東部包括青州、兗州（在今山東境內），西部至關中（今陝西渭河流域一帶），大體擁有了黃河以南的土地。這也使他的地位得到了空前的提升。