秦汉之际，匈奴在冒顿的带领下首次统一漠北草原，国力强盛建立了强大的奴隶制政权。匈奴冒顿单于乘楚汉相争之机，东破东胡，西攻月氏 ，征丁零、坚昆等部（约在今蒙古至西伯利亚一带），南灭楼烦、白羊（约今内蒙古南部），控制了中国北部、东北部和西北部广大地区，拥有骑兵三十余万，势力十分强大。
随着奴隶制的形成和发展，匈奴的国家机构也日益完善。最高首领叫单于，单于之下设左、右屠耆王（即左、右贤王），左、右谷蠡王，左、右大将，左、右大都尉等，这些大贵族都统率军队，多的万余骑，少的数千骑。大贵族之下还设有各级军官；处理政治的有裨小王、相、封都尉、当户等等。这些职位都由贵族世袭。单于又将全国疆土分为三部分，左屠耆王统治东边，单于居中直接统治，右屠王统治西边。
匈奴经常侵扰西汉的北边地区。前201年，冒顿单于发兵围攻马邑，韩王信投降，次年又攻晋阳（今山西太原市）。刘邦闻讯，亲率三十万大军迎战，被匈奴围困于平城白登山（今山西大同东南）。后来用陈平计，向单于阏氏行贿，才得脱险。史称“平城之围” 。
“和亲”与“实边”
汉初，由于经济急待恢复，政权尚未巩固，刘邦只好采取“和亲”的办法，把汉室公主嫁给单于，还送去大批的丝绸、粮食、酒等。但是和亲政策，并不能阻挡匈奴的掠夺。
汉文帝十四年（前166年），匈奴老上单于率骑兵十四万攻杀北地郡（郡治在固原附近）郡尉，前锋到了雍（陕西凤翔）和甘泉（陕西淳化），火烧回中宫。八年后，匈奴又从云中（内蒙古托克托旗）、上郡（陕西榆林南鱼柯堡附近）两郡各侵入三万骑，长安城警报频传。
文、景时期，虽然对匈奴采取和亲政策，但为抵御匈奴的侵扰，也作了些防备工作。如汉文帝改革了边防军轮换制度，用免税、赐爵、赎罪等办法移民“实边”。还大力提倡养马，准备对匈奴进行反击。
反击匈奴
汉武帝即位后，国家的经济实力空前雄厚，反击匈奴的条件成熟。汉武帝时期，反击匈奴的战争主要在元光二年（前133年）至元狩四年（前119年）间进行，先后打了十几仗，其中带决定性的大战役有三次。
第一次战役发生在元朔二年（前127年）。这一年匈奴侵入上谷、渔阳（北京密云县）。汉武帝派车骑将军卫青、将军李息率兵出云中，对河套及其以南的匈奴军发起突然袭击，匈奴白羊王逃走。西汉完全收复了河南地区，解除了匈奴对长安的威胁。西汉在这里设置了朔方郡（内蒙古杭锦旗）和五原郡（内蒙古五原）。
霍去病西征
在元狩二年（前121年）。汉武帝派霍去病出陇西，越过焉支山西进，入匈奴境千余里，和匈奴军短兵肉搏，大获全胜 。同年夏天，霍去病第二次西征，越居延泽，攻到祁连山，大破匈奴军，河西的匈奴贵族损失惨重。同年，匈奴内部分裂，浑邪王率四万人降汉。这次战役后，汉在这里置武威、酒泉、张掖、敦煌四郡，历史上称“河西四郡”。从此打开了汉通西域的道路。
漠北决战
元狩四年（前119年）。为了彻底击溃匈奴，汉武帝召集诸将商议，决定深入漠北反击匈奴。同年，大将军卫青和骠骑将军霍去病率领十万骑兵，分东西两路进 。针对匈奴认为汉军不能远征的错误判断，西汉采取了奔袭追击的战术。卫青率领的西路军，从定襄，越沙漠，北进千余里，对匈奴单于大军进行包围。经过激战，匈奴单于率数百骑突围远逃，其主力全部被歼，汉军直追至赵信城。霍去病的东路军从代郡出兵，深入二千余里，跨过大沙漠，击败匈奴左贤王 。经过这次战役，匈奴力量大大削弱，无力大举南下。
“单于和亲”
汉武帝反击匈奴的战争取得了决定性的胜利，制止了匈奴残暴掠夺，保护了封建经济的发展，使北部边境地区得到进一步开发，便利了汉与西域的交通。
随着匈奴军事力量的削弱，匈奴和其他被奴役的各族人民反抗匈奴斗争也日益强烈，匈奴统治集团发生内讧。汉昭帝时，发生了五单于争立事件，接着分裂为南北两部。甘露三年（前51年），南匈奴呼韩邪单于降汉，北匈奴的郅支单于被迫西迁，后被西汉所杀。
竟宁元年（前33年），汉元帝以宫人王嫱（王昭君）嫁给了呼韩邪单于，结束了百余年来汉、匈之间的武装冲突。此后约有半个世纪，在北部边境出现了和平景象。在包头等地的汉末墓葬中，出土有“单于和亲”等文字的瓦当，是汉、匈关系改善的有力证明。
