在汉军渡过黄河，抵达浑邪王大营附近时，浑邪王麾下部分降众不愿投降，密谋逃跑。在此紧急的关头，霍去病率部驰入匈奴军中，与浑邪王相见，斩杀企图逃亡的军士八千人，降异国之王三十二。随后，霍去病先将浑邪王单独送往长安，再统领其部众四万余人（号称十万人）归汉。

此役后，西北边境几乎没有匈奴进犯，汉武帝于是减少了陇西、北地、上郡戍守之兵的一半，使全国百姓的徭役负担得到宽缓。

从此，汉朝控制了河西地区，为打通内地通往西域的道路奠定了基础，匈奴为此悲歌道：“失我祁连山，使我六畜不蕃息；失我焉支山，使我嫁妇无颜色。”

二十二岁时，汉武帝命卫青与霍去病各率骑兵五万，步兵转折踵军数十万，分别出定襄和代郡，深入漠北，寻歼匈奴主力。

霍去病率五万骑兵，以将军李敢等为大校，出代郡、右北平郡，北进两千多里，越过离侯山，渡过弓闾河，与匈奴左贤王部接战，大破匈奴军，俘虏匈奴屯头王、韩王等三人及将军、相国、当户、都尉等八十三人，乘胜追杀至狼居胥山，在狼居胥山举行了祭天封礼，在姑衍山举行了祭地禅礼，兵锋一直逼至北海。

此役，汉军斩首七万四百四十三级，自身也损伤十分之三。经此一战，匈奴被汉军在漠南荡涤，匈奴单于逃到漠北，匈奴远遁，而漠南无王庭，匈奴势力大为衰退。

此战后，匈奴失去对东北地区的控制，霍去病将东北的乌桓徙居于上谷、渔阳、右北平、辽西、辽东五郡塞外，为汉侦察匈奴动静。汉朝要求其部落大人每年朝见，并置护乌桓校尉，使乌桓不得与匈奴交通。

汉军回师后，武帝为表彰霍去病的功劳，再增封其食邑五千八百户。霍去病属下的将卒，也获得了大量的赏赐，随他出征的右北平太守路博德、北地都尉邢山、复陆支及伊即靬都分别获封侯爵，李敢也一举获封关内侯。

武帝设置大司马位，以大将军卫青、骠骑将军霍去病为大司马，同时定下法令，使骠骑将军的俸禄同大将军相等。

从此以后，卫青的权势逐渐减退，而霍去病日趋显贵，卫青的老友和门客多半离开了他，而去奉事霍去病，这些人常常因此而得到官爵。

因为匈奴伊稚斜单于拒绝对汉称臣，汉武帝再一次进行战争动员，决心歼灭单于主力。然而在准备过程中，或许是多次领兵出征的劳累，长时间处于艰苦的环境，霍去病却因病早逝，年仅二十四岁，汉武帝因此被迫暂时停止了对匈奴的作战。

霍去病死后，武帝允许他陪葬茂陵，赐其谥号为景桓。武帝对霍去病的死非常悲伤，特意调遣河西五郡的铁甲军，列成阵沿长安一直排到茂陵东的霍去病墓，还下令将霍去病的坟墓修成祁连山的模样，彰显他力克匈奴的奇功。

汉宣帝亲政后，将霍家以谋反的罪名灭族，霍去病的子孙霍云、霍山均被处死，霍去病因而绝后。