第二次征匈奴战役，从部队的编成到作战目标，都进行了详尽的策划和周密准备。

汉军决定发北军五校之军:步兵、长水、射声、屯骑、越骑，出动黎阳营、雍营之军；

调发缘边12郡的精骑(云中、定襄、雁门、代郡、朔方、五原、上郡、西河、安定、北地、渔阳、上谷郡)；

选拔边境郡县的鲜卑、乌桓等羌胡骑兵；

此外还有南匈奴之精锐骑兵。

东汉将这些骑兵编组为三路大军，分别向北匈奴进军，约期会师于阿尔泰山东脉及蒙古戈壁，以期歼灭北单于之军。

汉和帝永元元年六月，汉军统帅车骑将军窦宪开始率三路大军出发。

窦宪与执金吾耿秉各率精骑4000，会同南匈奴左谷蠡王师子的1万骑兵，共1.8万骑，由朔方郡的内蒙古杭锦后旗北进；

南匈奴单于屯屠何，率匈奴万余骑兵出内蒙古固阳县境的满夷谷。

度辽将军邓鸿及缘边义从羌胡8000骑，会同南匈奴左贤王安国所率之1万骑兵出内蒙古包头的稠阳塞。

三路大军向涿邪山进发。

为保障主力的安全，窦宪派出副校尉阎盘、司马耿夔、耿谭率左谷蠡王师子和右呼衍王须訾等1万精骑为先锋。

当汉军进至蒙古吉尔连察汁岭的稽落山时，与北单于统率的主力展开激战，大败北匈奴军。

北匈奴军溃散，北单于遁走。

汉军猛烈追杀，一直追至蒙古邦察干湖，斩杀匈奴名王以下1.3万人，获马牛羊等百万多头。

温犊须、日逐、温吾、夫渠王柳鞮等81部率众归降者，前后达20多万人。

窦宪、耿秉等登上蒙古杭爱山，令中护军班固刻石作铭，记述汉军的威德和丰功。

窦宪派出了军司马吴汛、梁讽，携带金帛去招降北单于，然后班师回朝。

吴汛、梁讽在追赶单于的途中，又接受了1万多人的投降，进至蒙古杜尔格湖，才追及单于。

吴汛等向北单于宣明汉朝的威德，赐单于以金帛等物，单于表示降服，愿意仿效呼韩邪单于，做汉的藩属，保国安民。

于是，便随吴汛等率众东返。

北匈奴单于弟入侍后，汉以北单于未能亲自入朝，认为北单于不是真心诚服，窦宪于是准备第2次征讨北匈奴。

汉和帝永元二年五月，窦宪派副校尉阎盘率2000骑兵进击屯驻于伊吾卢地区的北匈奴军，旋即将匈奴军击破，占领了伊吾卢地区，车师前后王均遣子入侍。

永元二年七月，窦宪率军出屯凉州，并以侍中邓叠为征西将军，做自己的副手。

窦宪统辖陇西、汉阳、武都、金城、安定、北地、武威、张掖、敦煌、酒泉等郡兵马。

北单于见汉送回其弟右温禺鞮王，知道汉王朝责怪。

于是便准备亲自入朝，并派出使者入塞通告。

窦宪派班固、梁讽前往迎接。

这时，南匈奴又上书请求出兵击灭北匈奴，接着便命左谷蠡王师子等率领左右两部8000骑兵出内蒙古杭锦后旗的鸡鹿塞。

南匈奴军出塞后，顺利进至涿邪山，留下辎重，轻兵疾进奔袭北单于庭。

左部兵从北面越过蒙古杜尔格湖和哈腊湖以北的西海，进至蒙古乌布苏诺尔省的河云地区；

右部兵从匈奴蒙古拜达里格河以西，绕过天山，南渡蒙古札布汗河。

两军会合后。

乘夜包围了北单于本部。

北单于大惊，率精兵千余人与南匈奴军激战。

北单于负伤落马，又慌忙爬上马去，仅率轻骑数10人而逃。

南匈奴军缴获了北单于的玉玺、俘获阏氏及儿女5人，斩首8000人，俘虏数千人。

这时，南匈奴已相当强盛，拥有人口3.4万户，共23万多人，胜兵5万多人。

永元三年，大将军窦宪鉴于北匈奴遭南匈奴打击后，已极度衰弱，遂想彻底将北匈奴击灭。

便于二月，派左校尉耿夔、司马任尚，率军出居延塞，将北单于部包围于阿尔泰山附近的金微山，大破北匈奴军，俘获北单于母，斩名王以下5000多人。

北单于逃走，不知所向。

耿夔等率军出塞5000多里而还，这是自汉代出兵以来，最远的一次进军。

朝廷为表彰耿夔的功勋，封其为粟邑候。

北单于弟右谷蠡王于除鞬