曹操借着袁绍的势力，打败数十万青州黄巾残部，随即被迎入兖州，继任为刺史。他南下打败袁术，又因私忿进攻徐州，结果兖州大部被四处辗转的吕布袭取。兴平二年（195），曹操赶走吕布，重新站稳脚跟，就派部将曹洪领兵东去，迎接献帝。
曹操与其他许多割据军阀不同，他有政治头脑，更懂得发展经济，两条重要策略推动他走上了统一中国的道路。
一是任人唯贤，而不管出身和道德品质，这就部分打破了旧的门阀体制，同时也颠覆了东汉以儒家道德治国的根本方针。
二是大力开展屯田，既让投降的青州黄巾军屯，也招募流亡百姓民屯。所谓屯田，就是把大批田地收归政府所有，以军事方法组织人力开垦耕作，政府提供牲畜、农具和种子，秋收后征收五到六成的赋税。剥削是相当严重的，但在乱世中有地可耕，有粮可吃，百姓们也就心满意足了。
曹洪领兵东进，遭到董承部队的拦阻。董昭说服了杨奉，让他放曹操前来雒阳。随即董昭给曹操出主意说：“最好把天子迎去许县（今河南许昌市东），脱离西北军的掌控。”曹操非常赞赏他的建议，假做请献帝出巡鲁阳，离开了杨奉等人的势力范围。于是定都许县，改名为许昌，又称许都。
当时关东最大的割据势力还是袁绍，曹操暂时不敢与其抗衡，于是请献帝加封袁绍为大将军，自己做司空，行（代理）车骑将军事。他挟天子以令诸侯，从此可以名正言顺地讨伐不肯顺从自己的割据势力了。
建安三年（198），曹操联合刘备攻灭了占据徐州的吕布，随即消灭在淮南僭号称帝的袁术。关中诸将互攻，李傕被杀，曹操不费一兵一卒夺取了雒阳和长安。第二年（199），袁绍消灭公孙瓒，基本统一冀、青、幽、并四州。在消除了来自北方的威胁以后，袁绍和曹操正式翻脸，指挥大军南下，想要劫持天子。著名的官渡大战，一触即发。
此时，经过多年颠沛流离生活的献帝已经成年了，他不愿继续看曹操的脸色行事，当一个傀儡皇帝，就密诏车骑将军董承、左将军刘备等人，要他们寻机诛杀曹操，至于因此自己会重新落入董承，或者落入刘备、袁绍的掌握中，他大概根本就没有考虑过。建安五年（200），事情泄露，董承被杀，而事先逃往徐州割据的刘备也被曹操击破，孤身走投袁绍。
袁绍大军进攻黎阳（今河南浚县东北），但先锋部队两次在黄河岸边被曹操击败，大将颜良、文丑被杀，挫动了锐气。随即两军在官渡地区长时间对峙，曹操处于弱势，军粮也十分紧张，想要后撤退守许昌。
他的重要谋臣、尚书令荀彧写信劝阻说：“您现在用弱势兵力，对抗强大的敌人，如果不能取胜，定然一败涂地……可是要说众寡悬殊，还不如高祖在荥阳、成皋间对抗项羽，当时高祖所以不肯先退，是因为一退就会为人所制。您现在以不足敌人一成的兵力，扼守咽喉要道，已经守了快半年了，相信转机很快就会到来。”
荀彧的话有点夸大了，曹军虽处弱势，也不会只有袁军十分之一的数量。但时机真的很快来到了，袁绍阵营发生内讧，谋士许攸投靠曹操，向他泄露了袁军大部分粮草都屯积在乌巢的重要消息。于是曹操亲自率兵奇袭乌巢，断了袁绍的粮道。袁军士气浮动，大将张郃、高览等纷纷投降，曹操趁胜进击，袁军一溃千里。
袁绍逃回河北，忧愤而死，他的几个儿子袁谭、袁熙、袁尚为争夺继承人的资格内斗不休，被曹操逐一击破。建安十一年（206），曹操最后杀死袁绍的外甥高干，基本平定了袁氏家族旧日的领地。建安十三年（208），汉献帝拜曹操为丞相，名实相符地执掌朝政——仿佛第二个董卓。
然而曹操和董卓不可同日而语，经过董承等人的叛乱，他知道必须牢牢将天子捏在手心里，一刻也不能放松。汉献帝因此遭受到他前任诸帝都没有尝试过的高压控制。献帝实在受不了了，就在某次曹操觐见的时候，开门见山地说道：“你如果愿意辅佐我，就对我好一点，不愿意辅佐我，干脆废了我吧！”曹操惊得汗流浃背，从此再不敢独自一人面对皇帝。
建安十三年（208），曹操率大军南下征讨荆州牧刘表。还没等到荆州，刘表先就去世了，他的继承人、次子刘琮开城投降。前此依附刘表的刘备被打败，投奔驻守江夏（今湖北新洲西）的刘表长子刘琦。
曹操约同割据江东的孙权势力共同进攻刘备，孙权怕刘备灭亡后，下一个就轮到自己了，反而联合刘备，在长江岸边的赤壁击败曹军。从此曹操的势力再也无法越过长江，向南方深入。
建安十五年（210），曹操在他的大本营邺城（今河北磁县南）建造了巨大的铜雀台，以显示自己的威仪。他还作了一篇《让县自明本令志》，内中写道：“民间议论我有篡权之心，因此很多人建议我解除兵权，退隐山林。我知道这样有助于挽救自己的名声，然而天下还未平定，如果没有我，不知道会有几个人称王，几个人称帝……”
