原为普州（今四川省安岳县）参军，因身为韦皇后之父，于唐中宗即位之时，升任为豫州（今河南省汝南县）刺史。
唐中宗继位后，打算建立力量与武则天抗衡，主要支持人是妻子韦皇后的亲戚。打算将韦玄贞提拔为侍中，遭到武则天亲信宰相裴炎的反对。李显一怒之下说“假如他愿意，可以将天下给韦玄贞”。武则天以此为借口将唐中宗废黜。
韦玄贞坐罪流放至钦州，不久逝世。妻子崔氏，被钦州首领宁承兄弟所杀。四子韦洵、韦浩、韦洞和韦泚全部遇害。另有两女，逃窜获免。
神龙元年（705年）三月，追赠太师、雍州牧、益州大都督、上洛郡王。
神龙二年（706年），追赠酆王，谥号献惠。
皖公网安备 34019202000096号
备案号：皖B2-20100068-6
