后来，匈奴发生了分裂，形成了北匈奴和南匈奴两部分。根据现代考古的证据，南、北匈奴的血统并不一致，北匈奴拥有较多的胡人血统，而南匈奴基本上都是黄种人。这表明匈奴的分裂绝不仅仅是两个王子争权那么简单。
从此以后，南匈奴基本上成了汉朝的附庸，而北匈奴则更多地选择与汉朝对抗。
汉宣帝时，汉军大举北伐，迫使北匈奴历史性地向汉朝称臣。虽然其效果不是永久的，但这也意味着匈奴已经不能与汉朝分庭抗礼了。
到了东汉孝和皇帝年间，窦宪远征北匈奴，将北匈奴彻底击败。自此以后，北匈奴远走中亚，又辗转去了欧洲。依附于汉朝的南匈奴，成了继续在中国历史刷存在感的小族群。
到了刘协的时代，南匈奴已经离开了漠南，内迁到黄土高原。某种意义上，这也是他们的祖居之地。
但对汉朝来说，将南匈奴内迁，是极其愚蠢的做法！