關羽麾下士卒家眷皆在兗州，聽關羽要往兗州自然紛紛應諾。至於荀諶的囑咐，眾將士誰也沒提，一個死軍師和一個活將軍，將士們自然是聽關羽的。而關羽不聽荀諶勸告也是性格使然，他覺得若不能奪回兗州便無法向劉備交代，縱然此去千難萬險也不願有負劉備所托。當然關羽也有一些僥倖心理，覺得奪回兗州還有希望，所以一面回兵，一面遣人星夜往豫州、并州求援，想要三路兵馬一同奪回兗州。
人馬正往前行，忽然前方喊殺聲大震，一隊軍馬攔住關羽去路，為首大將正是陳武。陳武勒馬挺槍大叫道：「雲長何不早降！」
關羽大罵道：「手下敗將也敢尋死！我乃漢將，豈可降賊！」言罷拍馬舞刀，直取陳武。
陳武上前交戰，不到十合撥馬敗走。關羽提刀追殺十餘里，忽喊聲又起，左邊山谷中周泰領軍衝出，截斷關羽後路，陳武回馬復戰，原來陳武假意敗退乃是誘敵之計。
關羽腹背受敵無法兼顧，只能揮軍突圍而走。經此一戰關羽兵馬又去一半，還有五千餘人。關羽尋思周瑜人馬還在鄴城之下，便繞路往兗州而行，好在先前陳武詐敗之時為求逼真留下一些糧草，關羽士卒才不用劫掠為生。
繞過鄴城之後，關羽剛鬆口氣，便見兩邊山坡之上伏兵四起，左有周瑜，右有凌統，便見周瑜羽扇綸巾，手指關羽道：「雲長將軍往哪裡去？前方兗州已為我主所有！我在此等關將軍多時矣！」
關羽一見周瑜雙目冒火，大罵道：「無義之徒，速來受死！」說罷便策馬往山坡上衝殺。
周瑜見狀不急不怒微微一笑，吩咐士卒放箭。兩邊山坡士卒一同開弓射箭，滾木擂石紛紛滾落。關羽撥打雕翎，無法靠近周瑜，只得敗陣而走，五千士卒又折了兩千餘人。
凌統見關羽要走便要去追，周瑜喝止道：「公績莫往！你身上有傷豈是關羽對手？」
凌統不甘心道：「我等軍馬是關羽十倍，豈可輕易放過？」
周瑜笑道：「困獸猶鬥，窮寇莫追，我等不損一兵一將能留下關羽兩千兵馬也該知足了。前方自有人會要關羽性命。」
凌統聞言不再多言，他哪裡知道周瑜不是不想追擊，而是無將可用。周瑜可不認為自己和有傷在身的凌統能擋住關羽。
關羽引著三千餘敗軍跑了一陣，見吳軍沒有追來才鬆了口氣，於是又往前行。眼看進入兗州地界，山崦內又有兩軍撞出，左邊潘璋，右邊董襲，各領一萬軍馬殺出。原來二將奉呂蒙之命來助周瑜，周瑜便命二人埋伏在此，專候關羽到來。
潘璋、董襲見關羽士卒狼狽不堪，關羽本人也沒了往日威風，胸前的美髯都被血水浸紅粘連到了一處，於是便以為關羽好欺，一齊挺槍舉刀雙戰關羽。
關羽見兩個二流武將把自己當成了肥肉，竟然皆要先殺自己爭功，不由心中大怒。揮舞青龍偃月刀力敵二將。
潘璋、董襲若是穩妥一些，利用埋伏的時間設下陷坑、絆馬索，未必不能擒住關羽。可是二人有爭功之心，又有些小看關羽，便沒有設下陷阱，想要陣前斬將。如果二人通力合作又有大軍在側，也未必敵不過疲憊的關羽，可是二人各自為戰就不是關羽的對手了。
世上沒有那麼多如果，也沒有賣後悔藥的。正是因為潘璋、董襲輕敵，才被關羽抓住破綻各個擊破，不到二十合先殺退了潘璋，又戰十合殺退董襲。關羽再次領兵突出重圍，此時再回頭看，身後士卒只剩千餘。
看著身後渾身浴血的千餘士卒，關羽不知自己該不該再往前行。關羽心中明白，就憑這些士卒，無論如何也拿不下兗州。此時他有些後悔沒聽荀諶之言，若用荀諶之計，自己可能兵敗丟臉，但至少可以保全大半士卒性命，說不定這些士卒還能幫上張飛，結果總比被一路圍殺枉死的好。
就在關羽立在兗州界口猶豫不決之時，道邊樹林之中突然鑽出幾個士卒，高聲問道：「前方可是二將軍兵馬？」
關羽見狀一愣，忙將幾個灰頭土臉的士卒喚到跟前問道：「你等是何人？因何藏於密林之中？」
為首的士卒抹了一把臉上灰泥道：「二將軍，我等皆是兗州士卒，專為在此把守烽火台。皆因吳兵犯境，我等才不得已藏身在此。」
關羽聞言心中大怒，呵斥道：「吳兵犯境，何不舉火？」
士卒苦著臉道：「呂蒙遣人盡穿白衣，打震遠鏢局旗號，扮作行商、鏢師，詐入烽火台，因此各處不得舉火。」
震遠鏢局的聲譽聞名天下，雖不能說沒有丟失過一單貨物，但就算貨物遺失也會加倍彌補貨主損失。各地百姓對鏢局、鏢師、錢莊的信任程度甚至大於官府和官兵，也難怪呂蒙假扮商人鏢師可以屢屢得手。
關羽聽完前因後果愈加恨怒，想到自己既然已經選擇來到兗州，何不討呂蒙要個說法？就算不能奪回兗州，能誘呂蒙出城殺之，也好解心頭之恨。想罷關羽便起兵往昌邑而行。
潘璋、董襲一敗，呂蒙便在城中聞知關羽入境。當得知關羽只剩下千餘人馬時，呂蒙並未輕視，反而吩咐士卒下去準備。並傳下號令：凡兗州諸郡，有隨關羽出征將士之家，不許吳兵攪擾，按月給與糧米。有患病者，遣醫治療。將士之家，感其恩惠，都願助呂蒙行事。
這一日有人來報呂蒙關羽兵臨城下，呂蒙於是登城而望。關羽在城下見了呂蒙大怒責問道：「呂蒙狗賊，我等兩家約好共誅曹丕，如今你卻助曹而襲我，是背盟也。你這背信小人可敢出城與我一戰？」
呂蒙聞言臉不紅，氣不喘，在城頭笑道：「雲長將軍豈不聞兵者詭道也？你若有計策奪我徐、揚二州自可去取。來人，擺陣。」
隨著呂蒙一聲令下，竟有不少士卒家眷走上城頭，城上豎起一面白旗，上書「兗州百姓」四字。眾家眷走上城頭之後都叫自己家人速速投降。