在淞滬會戰1937年10月29日，日軍攻佔上海的第三天，市民一早出門，突然看到四行倉庫樓頂上飄揚著中國國旗！自從中**隊撤離後，上海濃煙翻滾的天空中，就只能看到租界的英國米字旗、美國星條旗、白俄三色旗和日占區的「膏藥」旗了。
三天前，與日軍苦戰了75天的中**隊，就像他們來上海時一樣，一夜就消失了。佔領上海後的日軍先是推倒了先總理孫中山的塑像，繼而到處懸掛太陽旗??中國人形象地稱之為膏藥旗??中國報紙稱之為「被正義的子彈打穿的一個血洞」的旗幟。
現在，這些房頂上掛著膏藥旗的中國人，看到了自己國家的國旗！他們還是中國人，他們還在自己的家園！當天的《申報》有這樣的一篇特寫：「天亮時分，國旗飄展，隔河民眾經此地，紛紛脫帽鞠躬，感動落淚。」在淪陷的上海，在數萬日本陸、海、空軍圍困中，升起上海市唯一的一面國旗的，就是謝晉元和他率的名震天下的「八百壯士」。
國民黨原第88師參謀長張柏亭在其回憶文章《淞滬會戰紀要》中，這樣寫謝晉元：「世人咸知謝晉元將軍??死後為蔣介石追認為少將??為一勇將，殊不知謝將軍智謀深遠，更是一位有著高度修養的參謀人才……」
「八一三淞滬抗戰」中，日軍投入了14個半師團，近30萬人，其中投入的海軍力量佔全部海軍的一半。打擊敵艦，特別是打擊敵旗艦「出雲」號，成了中**隊的主要目標之一。
身為陸軍旅中校參謀主任的謝晉元，拿出了摧毀「出雲」艦的計劃??經快速小火輪攜特種爆炸物對「出雲」艦進行偷襲。當時的《申報》這樣報道了偷襲結果：「匯山碼頭發生大火，謝同志的計劃雖未全部達成計劃，但已震撼敵軍，其後敵酋不敢再在出雲艦駐節，而黃浦江內敵艦，也遠向楊樹浦以東江面移動，艦炮射擊一時陷於沉寂……」
淞滬抗戰時，對日軍造成重創的「鐵拳計劃」，也是由謝晉元負責細部作業並指揮實施的。張柏亭這樣回憶「鐵拳計劃」：「炮兵於拂曉密集射擊，虯江路陣地一片火海，烈焰沖天，所有工事與建築物盡行摧毀，緊接著突擊部隊適時衝進，斃敵無算，橫屍街巷……」
整個淞滬抗戰中，謝晉元所在的閘北地區，始終是戰線旋回的軸心，88師也因此被日軍稱為「閘北可恨之敵」。
我軍由閘北大場撤退時，許多人建議考慮長期抗戰，有秩序退守經營了三年之久的防禦陣地。但蔣介石又以國際聯盟開會在即，能保持在上海的存在，「可壯國際視聽」。要求撤退下來的三軍，在毫無思想和軍事準備的情況下，在滬西倉促擺開戰場。令88師留在閘北，死守上海。
此時的88師已補充過5次，平均每班老兵不足2名，大部分連長戰死，「一個團整整齊齊上去，下來時，只剩下幾副伙食擔子」。部隊已經沒有戰鬥力了。為了落實委員長的指示，88師師長孫元良決定，只留下一個團死守閘北??這就是「八百壯士」的由來。
「死守上海最後陣地」的命令，迅速地交到了時任88師262旅524團中校團副謝晉元的手上。孫元良要求他們，把指揮所設在88師原司令部「四行倉庫」。四行倉庫是四家銀行聯營的倉庫，樓高六層，為當時上海少有的高樓，牆體厚實，日軍小鋼炮也打不透。該倉庫坐落於蘇州河邊，在公共租界的西北方，與公共租界以鐵絲網相隔。英軍在其東邊設有碉堡，日軍在其西、北面設有暗堡。
其實，堅守四行倉庫的只有一個營的兵力。該營士兵陳德松在《殊死報國的四行孤軍》一文詳細記述道：「以該團第一營為基幹，組成加強營，仍用團番號。全團410人左右，一個機槍連三個步兵連，一個迫擊炮排。」為迷惑敵人，在記者採訪時，謝晉元假告800人。這才有了「八百壯士」之說。
曾進入四行倉庫，親睹八百壯士與敵血戰的原國民黨軍委特務處駐上海辦事處處長文強回憶說：「(謝晉元)與我且說且走，在倉庫內巡視了一周。所到之處，營房佈置整潔有序，井然不亂，間聞愛國歌曲，雄壯激越，令人振奮鼓舞。」
唯一不足的是，倉庫並不像孫元良師長所說「糧水充足」。部隊進駐的第二天，自來水就斷了，官兵把污水小便留下來以作滅火之用；沒有糧吃，他們只好向租界愛國團體和民眾求援。民眾偷偷將食品送到倉庫邊的一個小屋內，再由守衛官兵設法取進去，才保證了供給。
孤軍的精神極大地感染了民眾，也感化了租界的外國人和外**隊。童子軍楊惠敏冒生命危險，為孤軍送來國旗後，還參加了孤軍的升旗儀式：「沒有旗桿，臨時用兩根竹竿連接紮成；沒有音樂，只有一兩聲冷槍聲；沒有壯觀的場面，只有十幾位軍人向國旗敬禮……」每天一早，租界民眾就爬上高樓頂，看孤軍殺敵。發現敵人來襲，就喊話通知孤軍。喊話聽不到，有人搬來大黑板，哪裡有敵人行動，即用大字寫在黑板上，並畫出敵人的行進圖。
一德國婦女感動於孤軍的精神，親自開卡車送來食物，並聲稱：孤軍每天的生活全部由她負責。英軍司令員史摩萊少將說：「我們都是經歷過歐戰的軍人，但我從來沒有看到過比中國『敢死隊員』最後保衛閘北更英勇、更壯烈的事了。」
就在孤軍4個晝夜不曾合眼，邊戰鬥、邊修好工事，準備與敵人作長時間的殊死決戰時，10月30日，統帥部命令孤軍停止戰鬥，退入公共租界。
英軍當時答應，「負責掩護孤軍撤退」，使「孤軍由租界到滬西歸隊」。可當孤軍冒著日軍的槍林彈雨，以與四晝夜血戰一般大的代價??死傷30多人??營長楊瑞符就是在撤退時身負重傷的??進入租界時，立即被英軍勒令收繳武器。孤軍以「軍人不能離槍」為由，拒絕繳械，雙方形成對峙。這時，國民黨政府還派人勸說孤軍配合英軍。可孤軍的槍剛交出去，英軍就將孤軍押上車輛，送膠州路羈留。
孤軍被送到膠州公園時，有350人和一面國旗。楊瑞符1939年6月12日在《大聲報》發表文章，對四行保衛戰作了這樣的評價：「是役也，既未成功，又未成仁，僅僅作到『絕對服從命令』六個字……」
在「八百壯士」撤入租界時，日軍即要求租界當局引渡。但迫於我國民眾的壓力，租界工部局始終不敢答應。後來，日偽又陰謀劫持和暗殺，多次派日本浪人或漢奸，懷藏手榴彈、短槍等武器，闖入孤軍營圖謀暗害，但未得逞。中外人士十分擔心謝晉元和八百壯士的安危，多次提出用難民分批將孤軍調換走等救孤軍的方案。但謝晉元一一謝絕。他表示：「余自奉命撤退之始，即知今後環境之艱危，當十倍於固守四行之時。地方人士曾有私潛離上海之建議，但經余拒絕。因余為奉令撤退，光明而來，亦當正大而去。」
汪偽上台後，陳公博當了偽上海市長，多次勸降謝晉元，請謝晉元去當偽第一方面軍司令。謝將委任狀撕得粉碎，並大罵賣國賊。謝晉元說：「我父母都是中國人，生下我這個兒子也是中國人，中國人決不當外國人的走狗！」
1941年4月24日晨5時，謝晉元和以往一樣，率領官兵早操。當他看到上等兵郝鼎誠等4人遲到後，就詢問原因。誰知他們4人突然取出預先藏在身上的匕首及鐵鎬等凶器，蜂擁而上，猛刺謝晉元胸部及頭部。謝多處重傷，流血不止，至6時許悲壯長逝，年37歲。4個兇手當場被擒，後交待是汪偽政府收買所為。
謝晉元犧牲的消息傳出，上海各界人士深為震驚，前往弔唁者達十餘萬人。5月8日，中國政府下令追認謝晉元為陸軍步兵少將。
1941年12月8日，日本突襲珍珠港，太平洋戰爭爆發，上海淪為真正的孤島。
12月28日，日軍突入孤軍營，將手無寸鐵的孤軍全部押走。歷時四年有餘困守的謝晉元的隊伍又淪為日軍的戰俘。但迫於孤軍在世界上的影響，日軍沒敢殺他們。在這麼惡劣情況下，孤軍仍保持了堅強的團結力和嚴格的紀律，每天抽空由官長率領跑步和體操。
不久，日軍將孤軍分別押解到孝陵衛、杭州等做苦工。到孝陵衛的部分孤軍奪取日軍的槍械後逃走，後又走上抗日戰場。36名孤軍軍官被日軍押到新幾內亞作苦力。1945年，孤軍看到日軍垂頭喪氣，整天酗酒，才知道日本戰敗，反過來把日軍抓起來當了俘虜。
1946年，名揚天下的「八百壯士」，從各地回到上海，總計100餘人。他們請回老團長的遺霜凌維誠，在老團長的陵墓四周搭起棚子住了下來，為老團長守靈。