《魏故南秦州刺史司马使君之墓志铭》记载:
司马升,字进宗,河内温县孝敬里人也。其先晋帝之苗裔。曾祖,彭城王,擅金声于晋阁,作藩牧于家邦。祖荆州,才地孤雄,震玉誉于江左。来宾大魏,为白驹之客。始践北都,遥授侍中、使持节、征南大将军、开府仪同三司、十州诸军事,封琅琊王,后迁司徒公。父镇剖陇西关右,著明唯良之绩。
君纂帝王之资,凭万乘之胤,夙慧早成,绝于群辈。君志性贞明,禀操鲠直,又能孝敬闺门,肃雍九族,鸿才峻迈,声溢洛中。以孝昌二年,释褐太尉府行参军,又除怀县令。虽牛刀耻鸡,且锦游邦里。莅政未几,礼教大行。君临兹百里,承流敷化,故能申述典谟,奉遵皇猷,使盗息如奸藏,令行如禁止。怀邑之民,咸称良翰。方縻好爵,而穷仕路,极缨冕以官王寮。如天道无征,吊善徒言,遘疾一朝,哲人云亡。以天平二年(535年)岁次乙卯二月廿一日,春秋卌有一,薨于怀县,赠使持节、冠军将军、都督南秦州诸军事、南秦州刺史。以其年十一月七日,葬于温县。但以日月不停,迁窆有期,墓门刊志,勒铭泉扉。其词曰:
盛美攸源,发业晋轩,陇西之子,琅琊之孙。如冰斯洁,如玉之温,往贤谢美,今俊何言。纂武彭城,承流金晋,万乘之胄,龙德之胤。辰极方高,苍海比润,崇基卓立,郁矣孤峻。少播令问,弱冠飞声,克庄集誉,赞彼槐庭。帝嘉明德,作邑怀城,义风烟舒,道化云行。才明不寿,自古在先,颜生二九,萎哲歼贤。之子之亡,如仕之年,永辞白日,长归黄泉。远送平原,葬于温县,陇树冬寒,夏凝霜霰。勒铭德埏,志其乡县,万岁千龄,谁闻谁见。