征战平叛

高市贵，善无（今山西省朔州市右玉县）人，年少便有军事才能。孝昌初，恒州内部敕勒刘仑等聚众叛乱，高市贵担任都督，率众讨伐刘仑，一战击败刘仑。累次升迁至抚军将军、谏议大夫。后来尔朱荣立孝庄帝，高市贵因参与拥立的功劳，迁卫将军、光禄大夫、秀容大都督、第一领民酋长，赐爵上洛县伯。尔朱荣在滏口讨击葛荣时，以高市贵为前锋都督。葛荣被平定后，高市贵担任使持节、汾州刺史，不久担任晋州刺史。纥豆陵步蕃侵掠并州，高欢击破他，高市贵也参与此次征讨，担任骠骑大将军、仪同三司，封常山郡公，邑一千五百户。

随从高欢

高欢在信都起兵，高市贵参与了起兵的谋划。后来樊子鹄占据兖州反叛，高市贵随大都督娄昭讨伐。樊子鹄被平定后，高市贵担任西兖州刺史，但没有去上任。天平初，高市贵再次担任晋州刺史。不久高欢认为洪峒地势险要，派遣高市贵镇守。

讨伐民乱

高欢在沙苑之战失利，晋州行事封祖业弃城而走，州民柴览聚众作乱。高欢令高市贵讨伐柴览，柴览逃往柴壁，高市贵击败斩杀了他。当时，东雍、南汾二州境内很多盗贼，聚集为盗，因为高市贵平定了柴览，都解散回复生业。后来有五千户秀容人反叛响应山胡，朝廷以高市贵为行台，统诸军将叛民讨平。元象中，高市贵随从大军在邙山击败西魏宇文泰，高市贵再次担任晋州刺史、西道军司，率众攻击怀州的叛贼潘集。高市贵还未到怀州，就在途中病死，朝廷赠其大将军、都督并、汾、怀、建、东雍五州军事、太尉公、并州刺史。

高市贵在北魏末年讨伐敕勒刘仑的叛乱，参与拥立孝庄帝。随从尔朱荣在滏口讨击葛荣，又随从高欢击败纥豆陵步蕃。后来参与高欢起兵，随从大都督娄昭讨伐樊子鹄。又先后讨平晋州柴览和秀容人的叛乱。随从高欢在邙山之战击败宇文泰。

儿子

高阿那肱，北齐右仆射、成皋王。

高孔雀，袭爵，常山郡公。

孙子

高僧护，高阿那肱之子，授通直散骑常侍。武平四年，夭折，时年六岁，追赠开府仪同三司、太常卿。