从东面来攻，乌孙从西面来攻，匈奴元气大伤，被迫向西迁徙以依靠西域。
匈奴因战争、天灾、领土及人口的减小，处境日益困窘，内部纷争开始激化。自伊稚斜单于后，匈奴单于更迭频繁。
汉宣帝神爵二年，汉匈双方反复激烈争夺西域之际，虚闾权渠单于死，其妻颛渠阏氏与其弟都隆奇合谋立右贤王屠耆堂为单于。匈奴内部掌管西域事务的日逐王先贤掸与新任单于屠耆堂争夺权位发生冲突。日逐王投降汉朝，汉朝完全控制了西域，使得匈奴被迫放弃了西域，匈奴实力大减。
屠耆堂则因为上任后，排除异己，屠杀上任单于所用旧人，重用自己的子弟，以致发生内讧，兵败自杀。他死后，匈奴开始争夺单于王位的内战。
汉宣帝神爵四年，匈奴东部姑夕王等人共立虚闾权渠单于的儿子稽侯栅为呼韩邪单于，击败握衍朐鞮单于，握衍朐鞮自杀身亡。
都隆奇等人共立日逐王薄胥堂为屠耆单于，击败呼韩邪。
此时呼揭王自立为呼揭单于，右奥鞮王自立为车犁单于，乌籍都尉亦自立为乌籍单于，是为五单于争立时期。
屠耆单于先后攻击乌籍单于、车犁单于，乌籍单于、车犁单于皆败走西北与呼揭单于合兵，呼揭单于、乌籍单于皆去单于称号，拥车犁单于为单于，为屠耆单于所败。
呼韩邪单于乘机进攻，屠耆单于大败自杀，车犁单于也率部投降。不久，呼韩邪兄呼屠吾斯自立为郅支单于，居东边。屠耆从弟休旬王也自立为闰振单于。
汉宣帝五凤四年，闰振单于率军东击郅支单于，兵败被杀。郅支单于乘胜击破呼韩邪单于，据漠北王庭。
呼韩邪单于则南下向汉称臣归附，是为南匈奴。而这一时期著名的事件，就是昭君出塞了。
后来北匈奴郅支单于则率部众退至中亚康居，呼韩邪单于占据漠北王庭。
汉元帝建昭三年，为了清除北匈奴在西域的影响，西域都护甘延寿、副校尉陈汤远征康居的北匈奴，击杀郅支单于。
至此匈奴的第一次分裂终于结束，而这一统一时期并没有持续多长时间。
东汉光武帝建武二十二年，匈奴国内发生严重的自然灾害，人畜饥疫，死亡大半。而统治阶级因争权夺利，再次发生分裂。
东汉光武帝建武二十四年，匈奴八部族人共立呼韩邪单于之孙日逐王比为单于，与蒲奴单于分庭抗礼，匈奴再次分裂为两部。后来日逐王比率4万多人南下附汉称臣称为南匈奴，安置
…。。