晋武帝太康元年(280年),担任国子博士(《晋书》卷二十《礼志》中),惠帝元康元年(291年),为国子博士(《晋书 卷四十 贾谧传》),迁国子祭酒(《晋书 卷四九 谢鲲传》)。太安元年(302年),为散骑常侍(《晋书 卷二十 礼志》中)。
《谢鲲传》谓“以儒素显”;《世说新语·文学》“卫玠始渡江”条注引《晋阳秋》谓“晋硕儒”;《晋书 卷五一 王接传》谓“博物多闻”。
谢衡的学识和官守是一致的,以儒学为宫,遂以显名。见于《晋书》卷二〇《礼志》(中)、《宋书》卷一五《礼志》(二)以及《通典》卷八九、卷九〇的谢衡资料,均为议论丧服之文。谢衡学行是笃守传统的儒宗,看不到一点元康名士的玄学气习。这样的人,显然不会为时所重,为士流所倾心。