出继伯父
司马望是司马孚(西晋时封安平王)的次子,年轻时被过继给伯父司马朗。司马望性格宽厚,有父亲的风范。在郡里任上计吏,被举荐为孝廉。后被司徒征辟为掾属,历任平阳郡太守、洛阳典农中郎将等职。
治边有绩
司马望嘉平三年(251年),司马望跟随伯父司马懿征讨王凌。事后,因功被封为永安亭侯。
后来司马望又升任为护军将军,改封安乐乡侯,加职散骑常侍。高贵乡公曹髦喜欢有才能的人,司马望与裴秀、王沈、钟会一同被他亲近接待,经常陪同饮宴。曹髦性急,裴秀他们在宫里任职,一召就到,但司马望是外官,于是特别赐给他追锋车一辆,配五位虎贲军。
当时司马师、司马昭相继辅政,把握大权,政事不过问曹髦。司马望被曹髦宠待,心里感觉不安宁,于是请求外出任职。出任征西将军,持节,都督雍凉二州诸军事,司马望在任八年,威化清明严肃,他广泛的制定方针和策略,多次抵挡蜀将姜维的进攻,关中地区都要依靠他。后来,司马望又被征入朝,拜卫将军,领中领军,掌管禁军。
位高尊崇
咸熙元年(264年),司马望升任骠骑将军,开府。八月,又接替何曾任司徒。
泰始元年十二月丙寅日(266年2月8日),司马炎(晋武帝)代魏称帝,建立西晋,司马望受封义阳王,食邑一万户,配给他士卒两千人。
泰始三年(267年), 司马炎下诏任命司马望为太尉,中领军之职如旧。为他多配置了幕僚二十二人,并假借他羽葆、鼓吹。
统领中军
泰始四年(268年), 吴将施绩进攻江夏郡,使得边境骚动。朝廷命司马望统率中军的步骑兵共两万人,出屯龙陂,为二方的重镇,又授予他假节,加大都督诸军事。不久,荆州刺史胡烈击破施绩,司马望于是班师回朝。同年,吴将丁奉等人又进攻芍陂,司马望又率诸军迎击,司马望还未到,司马骏就击退了丁奉。不久,司马望被拜为大司马。
泰始七年(271年),孙皓听信谶文,亲自率军进攻寿春,朝廷再命司马望统率中军二万,骑兵三千,据守淮北。不久,孙皓撤退,司马望也停止进军。
去世
泰始七年五月辛丑日(271年6月17日),司马望去世,享年六十七岁。朝廷赙赠许多财物,赐谥为“成”。