到了秋天，匈奴的浑邪王投降汉朝。当时，匈奴浑邪王、休屠王住在西部地区，先后被汉军擒杀了好几万人，单于对此十分恼怒，于是打算将他们召到王庭处死。浑邪王与休屠王得到消息后感到十分害怕，俩人一起谋划投降汉朝，他们先派人到边境拦截经过当地的汉人，让他们向汉武帝报信。当时，大行李息正在黄河边上修筑城池，看到浑邪王的使者后，就立马派传车急速奔赴朝廷报告。

天子闻之，恐其以诈降而袭边，乃令骠骑将军将兵往迎之。休屠王后悔，浑邪王杀之，并其众。骠骑既渡河，与浑邪王众相望。浑邪王裨将见汉军，而多不欲降者，颇遁去。骠骑乃驰入，得与浑邪王相见，斩其欲亡者八千人，遂独遣浑邪王乘传诣至行在所，尽将其众渡河。降者四万余人，号称十万。既至长安，天子所以赏赐者数十巨万；封浑邪王万户，为漯阴侯，封其裨王呼毒尼等四人皆为列侯。益封骠骑千七百户。

四年，骠骑将军骑兵车重与大将军军等，而无裨将，悉以李敢等为大校，当裨将，出代、右北平二千余里，绝大幕，直左方兵，获屯头王、韩王等三人，将军、相国、当户、都尉八十三人，封狼居胥山，禅于姑衍，登临翰海，卤获七万四百四十三级。天子以五千八百户益封骠骑将军；又封其所部右北平太守路博德等四人为列侯，从票侯破奴等二人益封，校尉敢为关内侯，食邑；军吏卒为官、赏赐甚多。而大将军不得益封，军吏皆无封侯者。

乃益置大司马位，大将军、骠骑将军皆为大司马，定令，令骠骑将军秩禄与大将军等。自是之后，大将军青日退而骠骑日益贵。大将军故人、门下士多去事骠骑，辄得官爵，唯任安不肯。

汉武帝乍一听到这个消息，生恐他们是用诈降的手段对边塞进行偷袭，便令霍去病率兵前去迎接。休屠王因为对降汉之事感到后悔，浑邪王便杀了他，合并了他属下的部众。霍去病所部渡过黄河后，与浑邪王所部遥遥相望。浑邪王部下的将领见到汉军后，很多人改变主意不打算投降了，于是就纷纷逃走了。霍去病纵马飞驰到浑邪王大营中，与浑邪王相见，将其部下企图逃跑的八千人当众斩杀，紧接着又派乘传车遣浑邪王前往汉武帝所居之处。还命令他的部下全部渡过黄河，投降的一共四万多人，号称十万。浑邪王抵达长安后，汉武帝赏赐给他数十万两黄金，还加封他为漯阴侯，食邑一万户，还把他的部下小王呼毒尼等四人全都封为列侯，同时还不忘增加霍去病食邑一千七百户。

汉武帝元狩四年（公元前者者9年），霍去病率领的骑兵军车和辎重都与大将军卫青同等，没有安排副将，将李敢等人全部都任命为大校，充当副将，从代郡、右北平郡出征二千余里，穿越大漠，与匈奴左部的军队正面遭遇，交战之后擒获了匈奴屯头王、韩王等三人，还有将军、相国、当户、都尉等八十三人，在狼居胥山祭祀天神，在姑衍山祭祀地神，后又登上翰海旁边的山峰眺望，此次总共擒获匈奴士兵七万零四百四十三人。汉武帝欢喜之余又加封给霍去病食邑五千八百户，并且还把他的部将右北平太守路博德等四人封为列侯，给从票侯赵破奴等二人增加了食邑，封校尉李敢为关内侯，并赐予食邑。对低级军官和兵卒也一一予以升官，这次受赏的人很多。而大将军卫青却没有得到任何封赏，部下军吏士兵也全都没有被封侯。

因此，汉武帝新设置了大司马一职，让卫青和霍去病共同担任，明确规定霍去病的官级和俸禄与卫青的一样。从此以后，卫青的权势一天天地败落，而霍去病则日益尊贵。很多卫青以前的朋友和门客都改为投靠霍去病，他们马上就得到了官职和爵位，唯独任安不愿意这样做。

骠骑将军为人，少言不泄，有气敢往。天子尝欲教之孙、吴兵法，对曰：“顾方略何如耳，不至学古兵法。”天子为治第，令骠骑视之，对曰：“匈奴未灭，无以家为也！”由此上益重爱之。然少贵，不省士，其从军，天子为遣太官赍数十乘，既还，重车余充粱肉，而士有饥者；其在塞外，卒乏粮或不能自振，而骠骑尚穿域蹋鞠，事多此类。大将军为人仁，喜士退让，以和柔自媚于上。两人志操如此。

六年，郎中令李敢，怨大将军之恨其父，乃击伤大将军，大将军匿讳之。居无何，敢从上雍，至甘泉宫猎，骠骑将军去病射杀敢。去病时方贵幸，上为讳，云鹿触杀之。

秋，九月，冠军景桓侯霍去病薨。天子甚悼之，为冢，像祁连山。

初，霍仲孺吏毕归家，娶妇，生子光。去病既壮大，乃自知父为霍仲孺。会为骠骑将军，击匈奴，道出河东，遣吏迎仲孺而见之，大为买田宅奴婢而去；及还，因将光西至长安，任以为郎，稍迁至奉车都尉、光禄大夫。

霍去病为人沉默稳重，有胆识，敢作敢为，汉武帝曾经想教他学习孙武、吴起的兵法，他却说：“作战看的是谋略，不需要古代的兵法。”汉武帝后来为霍去病修建了豪华府第，让他前去察看，他却说：“匈奴还没有彻底消灭，怎么可以有家呢！”由此，汉武帝更加宠信他了。然而霍去病少年显贵，对部下体察不够。他领兵出征时，光汉武帝派负责宫廷膳食的太官给他送来的食物就装了数十辆车。到后来班师回朝时，车上仍然装满了吃剩下的粮食和肉类，而士兵中却有很多饿肚子的。驻兵塞外时，部下有时因为缺粮而士气不振，可霍去病却还修建蹋鞠的场地来游戏。诸如此类的事情还有很多。卫青为人仁厚，尊重贤士，谦恭退让，凭借着温顺柔和博得了汉武帝的喜爱。二人的志趣情操就是这样不同。

汉武帝元狩六年（公元前者者7年），郎中令李敢怨恨大将军卫青让其父李广抱恨自刎，便出手打伤了卫青，但卫青却隐瞒了此事。没过多久，李敢跟随汉武帝到雍地甘泉宫打猎，被骠骑将军霍去病一箭射死。霍去病当时正倍受汉武帝的宠信，声势十分显赫，所以汉武帝也为其隐瞒真相，对外宣称李敢是被鹿撞死的。