東漢靈帝中平元年（184年），巨鹿（今河北平鄉西南）人張角領導的黃巾起義爆發。雖然起義大軍的主力僅僅堅持了一年，便被統治者用武力鎮壓下去了，但它徹底地動搖了東漢王朝的統治基礎，整個王朝已走向衰落。

在鎮壓這場農民起義的過程中，各地的州牧趁機擴展自己的勢力，紛紛割據一方。之所以會出現這樣的局面，主要是當時州的管轄區域很大，平均一個州要統領七八個郡，具備了稱霸一方的物質基礎，尤其是在州由監察區變為行政區之後，就更容易造成分裂。

中平六年（189年），時任并州牧的董卓率兵進入洛陽，廢掉少帝，毒死了何太后。然後另立獻帝，自任相國，專攬朝政。各地對董卓的這些做法極為不滿，群起而伐之。於是，在獻帝初平三年（192年），董卓在眾人的反對下，被殺身亡。天下分裂割據的形勢，便在此後明朗化了：劉焉佔據了益州（今四川一帶），袁紹奪取了冀、青、並三州（今河北中南部、山東東北部及山西一帶），劉表控制了荊州（今湖南、湖北），曹操佔有了兗、豫二州（今山東西南部、河南一帶），公孫瓚擁有幽州（今河北北部），陶謙據有徐州（今山東南部、江蘇北部）、袁術佔領了揚州（今長江下游與淮河下游之間），孫策盤踞在江東（今長江以南東部），韓遂、馬騰割據于涼州（今甘肅），公孫度佔領了遼東。

曹操從初平三年收編了三十萬青州黃巾軍后，軍事實力大為增強。隨後又向南擊敗了佔據徐州的陶謙，繼董卓之後，把從長安逃出的漢獻帝迎到許（今河南許昌東），從而「挾天子以令諸侯」，用皇帝的名義發號施令，消滅其他割據勢力。曹操先是利用袁術與呂布相互攻擊的機會，將他們二人分頭消滅。然後在建安五年（200年）的官渡（今河南中牟南）之戰中，大敗他在北方最強大的對手袁紹。然而，當他揮師南下，準備一鼓作氣統一南方時，于建安十三年在赤壁（今湖北武昌西，一說在今湖北蒲圻西北）遭遇到了江東的孫權與荊州的劉備組成的聯軍的合力抵抗，結果曹軍大敗而歸。從此，「吳有長江之險，蜀有崇山之阻」，形成了魏、蜀、吳三足鼎立之勢。

建安二十五年，曹操之子曹丕廢漢獻帝，自己稱帝，國號魏，定都洛陽。一年之後，劉備在成都稱帝，國號漢。222年，孫權在建業（今江蘇南京）稱吳王，229年稱帝。至此，三國鼎立的局面正式形成。

在行政區劃方面，魏、蜀、吳都承繼了東漢末年以來的州——郡——縣三級制。