公元前60年左右，匈奴虚闾权渠单于死，引起内部分裂，先后出现五单于争立的情况，混战不断，最后发展为呼韩邪单于和郅支单于的相互攻伐。公元前53年，呼韩邪单于附汉，是为南匈奴。

郅支单于公元前44年，康居王因为乌孙(西域国名，都赤谷，在今吉尔吉斯共和国伊塞克湖东南)所困，欲联合郅支单于的北匈奴击乌孙。郅支单于遂引北匈奴到康居东部筑城而居，路上死亡甚众。此后，郅支单于数击乌孙，又勒索大宛(西域城国，都贵山城，今乌兹别克共和国卡散赛)等国，令其每岁纳贡。四方蛮族都来投靠。又斩杀汉朝使节谷吉。

建昭三年（公元前36年），汉朝西域都护骑副都尉陈汤深虑郅支单于势力危及西汉对西域的控制，说服了都尉甘延寿，矫诏发西域城郭诸国兵及汉屯田吏卒4万余人，分六校(即六队)击郅支单于。三校从南道越葱岭(今帕米尔高原和喀喇昆仓山总称)，经大宛至康居；另三校由陈汤和甘延寿率领经北道入赤谷，过乌孙，进入康居界，至阗池(今吉尔吉斯共和国伊塞克湖)西。时康居副王抱阗率数千骑袭掠乌孙赤谷东，杀千余人，抢牲畜甚多。陈汤令西域诸国兵击之，杀460余人，解救被俘民众470余人，并获牛、马、羊作为军食。入康居界后，令士卒不得抢掠。至郅支城(郅支单于在康居所筑城池)60里止营。

捕得康居贵人，了解城内情况。次日距城30余里止营。第三日，距城3里布阵。郅支单于以数百人披甲守城，向汉军呐喊。百余骑兵在城外往来，步兵百余夹城门列阵。汉军以弓、弩射郅支城下骑、步兵，其骑、步兵皆入城内。又以持盾者在前，持长兵器和弓、弩者在后，向城下进攻，仰射城上守军。并烧毁土城外木城。当夜，匈奴骑兵数百欲出城反击，被汉军射杀。郅支单于亦被汉军射伤，诸阏氏(单于妻之称号)多被射死。

半夜，汉军攻入土城。时康居兵万余骑环城十余处援救郅支单于，但惧怕汉军，不敢战。天明，康居兵退却。汉军攻入城中，四面纵火。郅支单于受重伤而死。