韦谌为北周太傅韦孝宽次子,过继给四叔韦子迁。
韦谌虚龄十岁的时候,西魏文帝元宝炬想把女儿襄乐公主嫁给韦谌,韦孝宽认为哥哥韦敻之子韦世康比韦谌年长而推辞。元宝炬很赞赏韦孝宽,于是就把女儿嫁给韦世康。
韦谌刚强率略有节操,西魏恭帝元年(554年),韦孝宽平定江陵有功,朝廷别封韦谌为禳县开国公,后官至使持节,仪同大将军、陵蓬二州刺史,又出任上开府、光州刺史。
杨坚担任丞相时,韦谌因为跟随生父韦孝宽平定尉迟迥的功劳,进位柱国,封平桑郡公,历任青州、荆州二州总管,开皇十八年十一月十七日(598年12月20日)在荆州总管任内去世,谥号静。