河西，又稱河西走廊，也就是今天的武威、張掖、酒泉等地，因地處黃河西，自古稱河西，是從大陸通往西域的通道。 匈奴驅逐月氏占領河西後，酒泉地區交給匈奴邪王，武威地區交給胡圖王管理。 他們利用這一點控制了西部的西域國家，並與南方的羌族人聯合起來，威脅到漢朝西部的安全。 為了切斷匈奴與羌人的聯絡，打通漢朝西域之路，實現從西面包抄匈奴的戰略計畫，元展二年（西元前121年）春，漢武帝任命霍渠兵為驃騎兵將軍（“驃騎兵”是勇敢的意思， 而“驃騎兵將軍”的地位與將軍相同），率領一萬精銳騎兵，從隴西出發，實施奪取河西計畫的第一步。漢軍在霍歸的指揮下，勇向西推進，歷經匈奴五國（部落），戰六日，渡過燕芝山（今甘肅山丹縣東南）1000多里，在高蘭山（今蘭州黃河）下，匈奴軍短臂作戰，殆殺了哲蘭王、魯湖王（魯侯王）， 活捉了匈奴太子、相國大隊長等，殲滅敵軍8900餘人，俘虜了匈奴胡圖王祭天金（佛像）。漢軍打贏了第一仗。
這年夏天，漢軍為了徹底殲滅河西匈奴的生軍，趁著勝利之機，分兵兩路發動了第二次進攻。 霍渠兵、公孫敖率領北地縣（今甘肅桓縣東南部）數萬騎兵為主攻力量。 張騫和李廣率領一萬多名騎兵，從尤北平出發，以左顯王為攻擊目標，作為輔助攻擊力量策劃霍歸的行動。 霍去兵率軍出北后，他和公孫敖分道揚鑣前進，但公孫敖卻因為迷路而無法參加戰鬥。 霍曲志率領的部隊迅速繞道河西，渡過居沿海（今內蒙古自治區西北部）和小月石，潛入2000多里，由西北轉向東南，在祁連山腳下與匈奴邪王、胡圖王的軍隊激戰， 並取得了決定性的勝利。在這場戰鬥中，單羽麾下的單桓王、土王、相國、獨魏等共2500人投降，俘虜太后、單羽、太子、相國、將軍、黨虎、杜威等120餘人，殲滅匈奴大軍30200人。 大約十分之三的漢族士兵受傷。 由於軍功突出，霍渠兵為糧食莊園增加了5400戶，從此名聲越來越大，政治地位也越來越高，可以與魏青將軍相提並論。
河西走廊“包括祁連山麓的水草區”。 河西的失守，對匈奴又是一次沉重的打擊。 霍歸軍隊的兩次猛攻都取得了勝利，引起了匈奴貴族之間的內訌。 匈奴一之怒惡王和胡圖王打不力，輸了河西，應該嚴懲。 鑑於酉仙王的軍隊已經被殲滅，自己的軍隊也受到了沉重的打擊，他們已經失去了繼續抵抗的信心，害怕雪上加醋，於是他們商量，當年秋天一起向漢朝投降。 他們派人去聯絡正在黃河沿岸建造城堡的李習。 李習向朝廷報告漢武帝怕弄虛作假，於是命令霍曲兵率軍投降。 這是一項艱鉅的任務，風險很大。 當霍渠兵到達河西時，胡圖王突然改變了卦象，渾王匆匆刺殺了胡圖王並收編了他的軍隊。 霍渠兵率領漢軍渡過黃河，列隊行軍，匈奴邪王的軍隊也在列隊等待，兩大陣營遠遠地對視著對方，一步步逼近，局勢十分緊張。 見漢軍井然有序，匈奴邪王的部下起了疑心，一些不真誠投降的人紛紛逃竄，匈奴邪王的營地頓時變得騷動起來，極有可能匆匆散去。 霍曲兵見狀，當即做出決定，親自率領精馬，馳騁在匈奴邪王的營地中，親自與匈奴邪王商量，命令他將即將逃跑的匈奴官兵全部斬殺，恢復了秩序。 隨後，霍渠兵派人護送邪王到長安，乘坐驛站的特快列車與漢武帝會面。 然後，他親自率領四萬多名投降的匈奴士兵返回長安。
在這次投降工作中，霍結兵充分發揮了乙個勇敢而足智多謀的指揮官的軍事指揮能力。 對河西匈奴的進攻，是漢武帝繼河南、莫南之戰之後採取的又一重大軍事行動。 漢朝收復河南後，大軍主力逃往漠北後，河西的匈奴孤軍出兵進攻。 這時，漢武帝將攻擊目標轉向河西，動用一部分兵力對付左仙王，採取遏制強敵、打擊弱敵的戰略方針，符合客觀形勢。 而正確執行這一戰略方針的直接指揮者，就是霍渠志。 河西之戰的偉大勝利，切斷了匈奴與羌人的聯絡，進一步孤立和進攻匈奴，也為漢朝開闢了西域之路。