面對諸將奔逃，青、兗大擾的糟糕局面，遠在深宮的劉義隆，除了失望、震驚，只能是欲哭無淚。在無路可走的情況下，他不得不打出他的最後一張王牌——派遣征南大將軍檀道濟率軍北救。
此時，在江淮之間，同時有兩隻軍隊在逆向行進著：
威武嚴整的檀道濟的軍隊正在向北進；
潰不成軍的到彥之的殘軍正在向南逃。
不戰而敗退的消息一個接著一個送到了宮中，劉義隆怒不可遏，於是令中使帶著他的手詔北上：
到彥之、王仲德免官下獄，竺靈秀棄軍賜死！
檀道濟的軍隊從淮河進入泗水抵達彭城。
在途中，聽說王仲德已被免官關押在獄中，檀道濟是知道王仲德的軍事才能的，於是就上表為他請罪，請允許他和自己一道共同北救——幾年前徐、傅執政時，也是在宋軍大敗的局面下，朝廷安排他們倆北救青州；劉義隆答應了這個請求，起用王仲德為寧朔將軍隨檀道濟東行。起用王仲德，實際上是降級使用他，當初出時王仲德是以安北將軍（三品）的身份作到彥之的副帥，現在降號為寧朔將軍，職位四品。
宋的河南守軍大都奔退，現在只剩下朱修之在堅守滑台，檀道濟的援軍正是前往營救滑台的。魏軍打探到宋的援軍將要到達，並且主帥又是名震天下的大將軍檀道濟，於是急忙調遣數萬騎兵前往攔截。
檀道濟由清水到達壽張（在今山東壽張），遭遇魏帥叔孫建。檀道濟率王仲德及驍騎將軍段宏等上岸大戰，大敗魏軍；隨即轉戰到高梁亭，斬了魏的濟州刺史悉煩庫結——他原是鎮守碻璈的魏軍守將。
元嘉八年二月，檀道濟的軍隊進入濟水。
此時魏軍數萬人沿岸隨形，構成合圍之勢。魏軍前隊有「犀角」、「大力」之號，他們都是從眾多隊伍中挑選出來的，人人身長八尺，膂力絕倫，鋒芒銳利。其中有一個西域胡人，妙於弓箭，弦無虛，眾軍聞之色變。
宋軍上了岸，檀道濟就對部將薛彤說：
「如果能斬此胡人，那麼魏虜軍氣必挫。君有關、張之名，斬顏良正在此時！」
薛彤精神振奮，說：
「希望府公指示其形貌，下官當為公取之！」
檀道濟就叫來一個先前投奔魏軍如今又歸順的小將，小將說那個胡人穿絳衣，以樺皮囊盛裝弓箭，兩端有骨珥。檀道濟派人去探看，知道那胡人正在陣前，於是親自酌酒為薛彤壯行。
薛彤飲酒完畢，馳馬衝向魏軍；那胡人挺身出陣十餘步，彀弓未及，薛彤搶先一步從遠處飛擲銑鋧（小鑿），銑鋧正中胡人額頭，那胡人隨即翻身落馬。
宋軍在陣地前見了，出一片叫噪之聲。魏軍被激怒了，「大力」十餘人出戰，薛彤又一一斬了他們，但魏軍人多，前圍仆地，後繼又上，終於將薛彤圍在中央。
此時還在舟中的另一猛將高進之尚未上岸，他聽人誤傳薛彤已經陣亡，也來不及披甲，就急忙上岸，馳馬高舉長槊，直奔魏虜陣營，大叫著：
「高將軍來啦！」
魏人以前都聽說過高進之的大名，如今見此陣勢，紛紛後撤。此時薛彤已從另一面殺出一條血路，得以突出合圍，而高進之還不知，只顧在魏虜陣中沖東擊西，奔南突北，敵軍不能擋。薛彤得知高進之入虜陣營，並且很久不見他出來，就再次躍馬馳入敵陣。只見二將兩騎分擊，攪得虜陣萬人亂成一鍋粥。遭了他們倆的一陣狂風暴雨式的攪擾，魏軍除了被殺死的，另外為避二將鋒芒自相踐踏而死的人竟達數百。
魏軍一時大亂。
就這樣，前後二十餘日間，雙方無日不戰，甚至一日數戰。在這三十餘戰中，宋軍多勝。等到檀道濟軍到達蕭承之所戍守的歷城，叔孫建派遣騎兵邀擊宋軍前後，動作快捷，宋軍受挫，前行遲緩以至於停頓下來。
宋援軍既難以接近滑台，魏冠軍將軍安頡、司馬楚之等得以專力攻滑台。因久攻不下，魏軍不斷增援；他們又大造雲梯、沖車等攻城器械，夜以繼日輪番進攻。
滑台已堅守數月，城中將士疲敝，糧草匱乏。
城牆被魏軍沖車不斷地大力撞擊，土塊正大塊大塊地往下掉落：缺口在增多，缺口在變大。
魏軍日夜攻城，吶喊之聲震動黃河北岸；宋軍糧盡，將士捉鼠烤著吃。
二月十日，滑台城陷，宋守將朱修之、李元德、東郡太守申謨等萬餘人被俘。
滑台既已陷沒，北救就無意義，加之糧草又盡，於是檀道濟率軍自歷城南歸。軍中有人叛逃降魏，把宋軍糧盡而歸的實情盡皆告訴魏人；魏人得此軍情如獲至寶，以為此時正可報為檀道濟所敗之仇，於是派遣騎兵急追檀道濟。
正在撤退中的宋軍處於驚恐之中，隨時都將潰散。
到了夜晚，檀道濟駐軍於河岸，然後令士兵們在岸邊將一鬥一鬥的黃沙堆積成米囤狀，同時呼唱著：
「三十七斗……三十八斗……」
「五十斗……五十一斗……五十二斗……」
用斗量沙再堆積成一個個米囤狀的圓丘後，檀道濟又令士兵把剩餘的少量白米覆蓋在沙丘上。
天亮了，魏軍見宋軍一夜間豎起的一座座米囤，才想起宋人夜間的呼唱聲，再看看宋人軍隊陣形，毫無半點敗逃時慌亂的跡象，這才知道宋人嚴陣向前，資糧有餘，宋人奸細故意誘我上當,於是一氣之下斬了那降者。
這就是那個流傳後世的量沙唱籌的故事。
魏人仗著兵力強大，也暫未撤兵，而宋軍人少，檀道濟令軍士都披堅執銳，自己卻穿著閒時的白衣，也不騎馬，只是安坐在車上，然後率眾徐行。魏軍見了，不知就裡，也勒馬緩行，不敢逼近。
其後漸行漸遠，魏人撤兵，檀道濟全軍而還。
青州刺史、振武將軍蕭思話知道滑台失守、檀道濟也已南歸，害怕魏大軍圍攻，也撤了捍衛東部的軍事要鎮青州治所東陽城（故址在今山東益都北），南奔平昌。東陽百姓見刺史大人倉皇南逃，又見城內糧草齊備，唯恐魏人來了便宜了他們，於是一把火燒了東陽城的糧草，然後追隨刺史大人去了。這蕭思話原是劉裕繼母孝懿蕭皇后（劉裕稱帝后所追封）的侄子，皇上想他立功，在元嘉三年他才二十五歲的時候就委以重任，出任邊鎮青州刺史。哪承望他原來只是一個膽小無能的人！
因下邳（在今江蘇睢寧西北）歷來是淮北戰場的要地，蕭思話先曾命令部將劉振之戍守下邳。聽說自己的明府大人已棄了東陽城，隨即劉振之也棄了下邳向南奔退。
東陽城的糧草冒了幾天的濃煙，也未見一個魏兵的影子。
下邳城也是空城獨立，寂寞著。
劉義隆再次震怒了。儘管蕭思話是他的長輩，但棄城之罪——且積聚無端被毀——軍法不容，於是他手詔：征蕭思話下廷尉，關押在尚方。
北方的戰事已經平息：河南四鎮得而復失！
劉義隆自即位以來所最為關注也最為投入的一件大事就這樣草草結束了。前後歷時十個月，除了河南四鎮得而復失外，姚聳夫、竺靈秀被賜死，朱修之、李元德、申謨等被俘虜，損兵折將數萬人，武庫府藏空虛，青兗二州大亂……剩下的就是先喜後憂繼而失望、繼而憤怒的數百個日日夜夜。
熟讀兵書的劉義隆在太極殿裡來回踱著，他再次誦讀著《孫子兵法》中的那段話：
「凡興兵十萬，出兵千里，百姓之費，公家之奉，日費千金，內外騷動，怠於道路不得操事者，七十萬家。」
興兵十萬……內外騷動……七十萬家，劉義隆口中呢喃著。
入夜，劉義隆久不能眠。他披衣離榻，點燭提筆給遠在荊州的江夏王義恭寫了封信，談府州之事，談北伐之事。待信寫好後，他仍仰臥床上久不能寐。就這樣輾轉反側，一直到天亮，他再次披衣提筆，有傷滑台陷沒、北伐敗辱，吟成五古一：
逆虜亂疆埸，邊將嬰寇仇。堅城效貞節，攻戰無暫休。
覆汁不可拾，離機難復收。勢謝歸途單，於焉見幽囚。
烈烈制邑守，捨命蹈前修。忠臣表年暮，貞柯見嚴秋。
楚莊投袂起，終然報強仇。去病辭高館，卒獲舒國憂。
戎事諒未殄，民患焉得瘳。撫劍懷感激，志氣若雲浮。
願想凌扶搖，弭旆拂中州。爪牙申威靈，帷幄騁良籌。
華裔混殊風，率土浹王猷。惆悵懼遷逝，北顧涕交流。