薛谨,字法顺,薛辩子,河东汾阴人也。容貌魁伟,高才博学。刘裕灭亡后秦后,被俘度江,选为太尉记室参军。父亲平阳太守薛辩将归北魏,密报薛谨。薛谨遂亦来奔,授河东太守,袭爵汾阴侯。始光三年,与宜都王奚斤共讨赫连昌,擒杀其东平公赫连乙斗,攻克蒲坂。遂以新旧百姓并为河东郡,除平西将军,复为太守。
神麚三年,除使持节、秦州刺史。山胡白龙凭险作逆,太武帝诏南阳郡公奚眷与薛谨并为都将,讨平之,封涪陵郡公。太延初,征吐没骨,平之。谨自郡迁州,威恩兼被,风化大行。时兵荒之后,儒雅道息,谨命立庠序,教以诗书。三农之暇,悉令受业,躬巡邑里,亲加考试,河汾之地,儒道更兴。太平真君元年,征授内都坐大官,辅政。深见赏重,每访以政道,车驾临幸者前后数四。后从驾北讨,与中山王拓跋辰等后期,见杀。寻赠镇西将军、秦雍二州刺史,谥号元公。