同年（建安元年），劉備也跑來投靠曹操了。因為曾經依附於他的呂布和他又打起來了，劉備戰敗，只好來投奔曹操。當時曹操的謀士程昱就勸曹操殺掉劉備，曹操卻說：「方今收英雄時也，殺一人而失天下之心，不可！」不但沒殺劉備還「厚遇之，以為豫州牧」。《三國演義》還杜撰出青梅煮酒論英雄的故事，其中「說破英雄驚煞人」的場面描寫得更是精彩、傳神。不過《三國誌先主傳》確實提到曹操對劉備說：「今天下英雄，惟使君與cāo耳」，而劉備也「方食，失匕著」，卻沒提是不是在青梅煮酒之時。《三國演義》進行到這裡時，曹操有一段關於龍的精彩論述，項飛把它全文抄錄下來，與諸君共勉：「龍能大能小，能升能隱；大則興雲吐霧，小則隱芥藏形；升則飛騰於宇宙之間，隱則潛伏於波濤之內。方今chun深，龍乘時變化，猶人得志而縱橫四海。龍之為物，可比世之英雄。」這段論述既可以看作是古人對無所不能的龍的崇拜，也可以看作是曹操內心的獨白。曹操認定自己是英雄，他嘴上說的是龍，心裡想的是自己。龍能大能小，能升能隱，曹操能屈能伸，而且「胸懷大志，腹有良謀，有包藏宇宙之機，吞吐天地之志」，現在到了飛騰於宇宙之間的時候了。
那麼，曹操為什麼不除掉劉備這個潛在的對手而使對方得以苟延殘喘，以至後來能夠坐大、坐強，成為心腹大患呢？項飛認為劉備的「韜晦之計」（該計僅見於演義，史書上無記載）可能是一方面，但是如果曹操打定主意殺掉他，劉備是否「韜晦」結果都是一樣。最主要的是，曹操根本沒認為劉備是潛在的對手，也就是說曹操根本沒看得起劉備。當時的劉備要人沒人，要地盤沒地盤，雖有仁義之名，可在那個弱肉強食的動盪社會，這根本就不是資本。劉備最有號召力的是他的皇族身份，可他又是皇帝的遠親的遠親。說到行軍打仗，劉備比曹操可差得遠了（劉備自己也知道這一點）。這樣一個人曹操會把他放在眼裡嗎？當然，這是曹操的一大失誤——後果很嚴重。
建安二年（公元197年），曹操領兵伐張繡。剛到淯河邊上的宛城，張繡就率眾投降。《三國誌魏武帝紀》只說張繡「降，既而悔之，復反」，沒說復反的原因，讓人莫名其妙。可是細一翻書，發現了原因。在《張繡傳》中說，曹操「納濟妻，繡恨之」。濟是指張濟，他是張繡的叔叔，他死之前把隊伍交給了張繡，張秀才能成為老大。濟妻，就是張濟的妻子，也就是張繡的嬸娘。曹操這事辦得不地道，怪不得《武帝紀》裡沒寫，原來是為尊者諱。你說張繡能不「恨之」嗎？曹操知道張繡對自己不滿後就有了殺張繡之心，不料計劃洩露，張繡就先下手了，夜襲曹操大營。當時曹操紮營在淯河邊上，一點準備都沒有。這一仗打得很慘，曹操右臂中箭，長子曹昂和侄子曹安民陣亡，《張繡傳》說曹操「二子沒」，《三國演義》說曹操長子和一個侄子陣亡。曹操的名馬絕影也被射死，還有曹操的心腹大將被他稱為古之惡來的典韋也陣亡了。曹操跑到舞yin重整人馬，回過頭殺敗張繡。張繡投奔劉表去了。《典韋傳》記載，曹操「聞韋死，為流涕」，「親自臨哭之」。然後「遣歸葬襄邑」，還封典韋之子典滿為郎中車架，「每過常祠以中牢」。雖說典韋死得有些不值，但曹操的做法確實打動了不少武將的心，活著的人看到曹操如此厚待典韋，誰能不甘心情願地為他賣命？然後，曹操總結經驗教訓。他說張繡復反是因為沒能「取其質」，就是說沒有及時的押個人質。雖然曹操沒說出張繡復反的直接原因，但他心裡比誰都清楚，縱觀曹操後半生，再沒犯過類似錯誤。雖說英雄難過美人關，但曹操吃一塹，長一智，絕不會在女色上犯錯誤了。最後曹操說了句豪氣干雲的話：「吾知所以敗。諸卿觀之，自今以後不覆敗矣！」在大敗之後能說出這樣話的，只有曹操！由此可見曹操的胸襟和氣魄，這樣的人想不當霸主都難！這番話不但安撫了眾心，更鼓舞了士氣。這可不是簡單的吹牛——有誰能在如此慘敗之後吹牛？這更是一個目標，而且曹操幾乎做到了。
曹操領兵回到許都。按照漢制，他在朝見天子時應該「交戟」，大概就是交回兵權。曹操可不願意這樣，於是乾脆「自此不復朝見」。當然見還是要見的，只是不再朝見，所以也就不用交回兵權。關於曹操的不朝見還有一個說法，在《後漢書伏皇后紀》中記敘了這樣一件事。有一次曹操上朝，也不知為什麼和獻帝發生了爭執。獻帝大概早就看曹操不順眼，可是有無可奈何，這次終於忍不住說出了心裡話，他說：「君若能相輔，則厚；不爾，則垂恩相捨。」本來，作為一個沒有實權的皇帝，獻帝這話也就是發發牢騷而已，沒什麼大不了，可是當時的情況有些特殊。原來按漢朝的規矩，領兵的三公在朝見皇上的時候，應該有「虎賁持刃挾之」。虎賁是皇帝的衛隊，就是說三公一旦獲得兵權，在朝見的時候就要被皇帝的衛隊嚴密控制。這樣做的目的主要是威嚇和震懾。三公本來就位高權重，現在又有了兵權，一旦作亂，還真難控制，所以就通過這種方式來提醒他們：皇權，只有皇權才是至高無上的，千萬別有什麼非份之想，不然隨時會要你的腦袋。雖然獻帝身邊的虎賁都是曹操安排的，但是保不準會有誰受了指使或是頭腦發熱，想要忠君報國，真把曹操砍翻了，如果那樣還真不好辦。曹操立刻「求出」，出了大殿後「顧左右，汗流浹背」，於是「不敢復朝」。
不管真正的原因是什麼，反正曹操是不上朝了。公文直接送到曹操的府中，本來這些公文也是曹操處理，用不著請示漢獻帝。如果需要獻帝蓋章，派個人去辦就行了。總而言之，曹操就是不上朝了。
這時的袁術不知怎麼想的，竟然想稱帝。他派人聯合呂布，卻被呂布連人帶信交給了朝廷，打了小報告，也就是舉報。袁術大怒，派兵打呂布，卻被殺得大敗。建安二年九月，曹操親征袁術。袁術聽說曹操親自來了，立刻「棄軍走」，一直過了淮河。曹操得勝回到許都，這時南陽、章陵等幾個縣又反了，支持張繡。曹洪領兵征討卻連吃敗仗，那邊的劉表張繡還不斷騷擾，曹操只好自往征之。途經淯河，親自臨河祭奠宛城之戰陣亡的將士，「歔欷流涕，眾皆感動」。仗打得還算順利，曹操收回了失地就回兵了。
建安三年得前半年，曹操和劉表張繡又打了幾仗，還沒分勝負就撤回許都了。為什麼呢？因為曹操得到個消息，袁紹的謀士田豐給袁紹獻策，讓袁紹趁機出兵許都，搶回漢獻帝。這可是曹操的死穴，以袁紹實力之強，中招即死，所以曹操一得到消息立刻回兵。可是田豐的主意雖好，袁紹卻沒採納。不過袁紹雖然沒來，呂布卻來了。原來呂布不知怎麼搞得，又與袁術合作了。受袁術指使派大將高順攻劉備。這時的劉備是曹操的小弟，曹操當然不能坐視不理，於是派夏侯惇救援。結果，兩人被高順殺得大敗。想想當時與高順齊名的張遼後來建功立業，威風八面，就知道高順不是等閒之輩。小弟吃了虧，當大哥的不能不管，於是曹操九月出兵東征。十月攻取彭城，隨即下令屠城。
曹軍攻堅戰的一個特點就是屠城，其目的有兩個：一是殺雞給猴看，使其他敵人不敢抵抗；二是聚斂財物，以充軍實。曹軍有這樣一條規定：圍而後降，不赦。就是說在包圍圈形成之前投降，算是投誠，可以寬大優待。在包圍圈形成之後投降，哼哼，對不起，照殺！因為你是懾於我方強大的攻勢，而且無路可逃，這才投降的，不是發自內心的歸順，所以不赦。冷兵器時代的攻城戰非常困難，攻方要以血肉之軀，冒著雨點般的矢石，衝上高高的城頭或是撞開堅固的城門，必然要付出慘重代價，這樣就使攻防產生了強烈的仇恨心理，一旦城破，這種仇恨心理很容易轉化為報復，屠城很難避免；兵法上說「十則圍之」，因此一般來說攻方在人數上佔有絕對優勢，守方雖然有深溝高壘，但是往往人手不足，所以他們通常會調動城中居民參與防守，可能誘以重金，可能說以言辭，可能逼以刀劍，總之就是軍民齊動員。可是這樣一來軍民不分，就給了攻方屠城的借口。曹操屠城主要是威懾後來者，給其他守敵造成強烈的心理震撼，使之放棄抵抗，減少以後攻城的傷亡。可是這樣一來在客觀上也容易使守敵軍民一心，同仇敵愾，團結抵抗，所以後來就有來自一線的指戰員向曹操建議廢除「圍而後降，不赦」這一條款。比如曹洪，他就曾建議曹操在圍城之後曉諭城中軍民，城破之後不會屠城，以減少傷亡和避免可能遇到的抵抗。
屠城的另一個目的就是斂財。雖然殺人越貨說來不太像話，不是正規軍幹的事，但確實是解決軍費的一個好辦法。在那個軍閥混戰的年代，屠城的事時有發生，大家也不覺得怎樣。另外屠城還有個「妙用」，就是可以提高士氣，激發士兵的鬥志。士兵們在攻城時憋了一肚子的氣，現在可以殺人洩憤了，當主帥的也不願意阻止他們。而且他們最大的興趣在於屠城時可以發筆橫財，真正的殺人越貨。士兵搶百姓，將領搶宮室，主帥拿提成。所以常有統帥在攻城前對士兵許諾，「城破之後，屠城三日」，以此來調動部隊的積極性，充分發揮將士們的主觀能動性。
說到解決軍費，曹操還有個辦法就是盜墓。其實和屠城一樣，盜墓也不是曹操的發明，先人們早已實踐過，曹操只是照搬前人的經驗而已。很多人在剛起兵時，實力弱小，連生存都是問題，更別說去屠城了。可是為了革命力量的發展壯大，他們又急需錢，所以就把目標鎖定在相對容易的盜墓上。曹操的老爸雖然有錢，還有人贊助，可是這些不足以養活一支軍隊，所以才出此下策。袁紹討伐曹操時，命他手下的筆桿子陳琳寫了一篇檄文，其中就說到曹操派軍隊盜墓這件事。他說，「cāo率將校吏士親臨發掘」，而且「所過隳突，無骸不露」。當然，陳琳是在幫袁紹說話，可能有的地方出於宣傳的需要有誇大的成分，但是曹操派人盜墓是確有其事。據說他手下有一支專門盜墓的隊伍，還設有專門負責盜墓的官職，比如發丘中郎將和摸金校尉。這支隊伍戰功顯著，挖了很多漢朝的皇陵，就連漢武帝的茂陵也不放過。任你生前多偉大的人物，死後一樣任人擺佈，屍骨離散，歸根結底都是錢財惹的禍。曹操可能也是因為看了被盜後墓主人的慘狀才下令自己的喪事從簡（當然，曹操平時也很節儉），並設多處疑塚。後世每逢戰亂，必有盜墓賊四起，其中有官辦的，比如宋末就有專門盜墓的「淘沙官」，當然也有民辦的，但即使這樣，時至今日人們還是不知道曹操墓的確切位置。
屠城之後，曹操進軍到下邳，呂布親自帶騎兵迎戰。雙方一場惡戰，最後曹操獲勝，並且「獲其驍將」成廉，呂布則退回下邳城中，隨即被圍。被圍的呂布恐懼之餘就有了投降的想法，卻被他的將領陳宮「阻其計」。於是呂布只好一面堅守，一面向袁術求援。而曹操方面因為連續作戰，士卒疲憊，也想撤兵。這時他的謀士程昱和郭嘉提出建議，決沂水、泗水灌城。曹操立刻採納，派人掘河，下邳城中水深數尺。呂布又堅守了月餘，最後他的部將宋憲、魏續不幹了，相約反叛，先活捉了陳宮，然後開城投降，呂布也隨即被擒。曹操入城之後立刻提審呂布、陳宮，「皆殺之」（詳見《呂布》），然後招降呂布領兵在外的的部將臧霸、孫觀等，不但「厚納待」，而且委以重任。至此，呂布這塊心病算是去了。
第二年，也就是建安四年（公元199年）冬十一月，和曹操打了好幾年的張繡率眾來降。曹操大喜，封張繡列侯，這件事後文會有詳敘。這時的袁紹已經吞併了公孫瓚部，佔有冀、青、幽、並四州，十餘萬眾，勢力日益強大，多次傳出消息他要攻擊曹操。曹操雖然風頭正勁，但是與袁紹相比還差得遠，所以曹操的手下多數人都認為不可與其爭鋒。曹操則說：「吾知紹之為人。志大而智小，se厲而膽薄，忌克而少威，兵多而分劃不明，將驕而政令不一，土地雖廣，糧食雖豐，適足以為吾奉也。」在這之前，曹操每次出征都擔心袁紹會襲擊他的許都，謀士們也多次提醒過他，但曹操總是能準確預言袁紹究竟會不會偷襲，這些判斷是在充分瞭解袁紹的為人的基礎上作出的。曹操之所以最後能戰勝袁紹不是因為運氣好，而是他知己知彼。短短幾句話，既總結了袁紹為人、治軍的弱點，又鼓舞了士氣。於是曹操進兵官渡（現在河南中牟的東北），以遏制袁紹。
再說那位已經稱帝的袁術，先被呂布殺敗，又被曹操所破，到現在也沒緩過勁來，而且處境越來越艱難。他一想，乾脆把帝號讓給袁紹吧。兩人雖然一直不和，甚至兵戎相見，但畢竟是同父異母的兄弟，歸帝號於袁紹還可以換個養老的地方。於是帶人投奔袁紹，袁紹的兒子袁譚從青州出發來迎接他。袁術要到青州必須要經過下邳，此時的下邳已經落入曹操的手中，曹操當然不會放過袁術。可是曹操不知道怎麼回事，竟然派劉備、朱靈阻擊袁術。他們還沒進入狙擊位置，袁術就已經病發身亡。曹操的謀士程昱和郭嘉聽說劉備帶兵走了，立刻來見曹操，他們認為「劉備不可縱」。曹操也後悔了，馬上派人追，可是已經來不及了。劉備到了下邳，打發朱靈回許都了，然後立刻殺了曹操的大將、徐州刺史車胄，「舉兵屯沛」，說啥也不回去了。