司马尚之初任秘书郎,后迁散骑侍郎。太元十三年(388年)父亲司马恬以兖青二州刺史出镇京口,司马尚之迁振威将军、广陵相。太元十五年(390年)父亲去世,司马尚之袭封谯王,并离职服丧。
服丧后,司马尚之任骠骑将军、会稽王司马道子的咨议参军。隆安元年(397年),青兖二州刺史王恭举兵讨伐掌政的司马道子宠臣王国宝,司马道子不能抵抗,被逼诛杀王国宝以求平息事件。当时散骑侍郎刘镇之、彭城内史刘涓子等人皆因是王国宝党羽而被收捕,将被处死,司马尚之认为刑狱不能牵连太广,劝司马道子释放他们。司马道子听从。
而当时王恭因为逼司马道子杀王国宝而威震全国,令司马道子十分畏惧,以司马尚之有才能,于是以其为心腹,并且常常与司马尚之策谋和议论。而当时司马尚之就劝司马道子多树心腹至方镇以作外藩,司马道子于是就于隆安二年(398年)以其司马王愉为江州刺史,并割豫州刺史庾楷本督的四郡改由王愉都督。庾楷本来亦是支持司马道子的,但他对此变动感到不满,上疏反对却不被接纳,于是愤而劝王恭讨伐司马尚之。
在庾楷的策动下,庾楷、王恭、荆州刺史殷仲堪、广州刺史桓玄及南郡相杨佺期于隆安二年(398年)七月以讨伐司马尚之兄弟及王愉为名起兵。九月,司马道子委军事予儿子司马元显,以其为征讨都督,统领司马尚之、王珣和谢琰等人抵抗。司马尚之于是领兵进攻庾楷,先于慈湖击败庾楷将段方,后更在牛渚大败庾楷,令庾楷逃奔桓玄。及后司马道子便以司马尚之为建威将军、豫州刺史、假节镇历阳,代替庾楷。不过,桓玄与杨佺期率军从荆州到来,在白石大败朝廷军队,并进攻至横江,司马尚之唯有撤退。不过随着王恭因部将刘牢之背叛而兵败被杀,桓玄、杨佺期及殷仲堪三人亦后撤,反在寻阳结盟自保,不久更接受朝廷下诏安抚,返回驻地,建康危机得以解除。司马尚亦获升为前将军,而他与其他三个弟弟都获司马道子任命要职,各拥军队,以倚仗为援。
隆安三年(399年),司马元显趁机夺去父亲司马道子的权力,成为东晋朝廷的决策者,而且以张法顺为谋主,其宠信张法顺更让他在宴会上与自己平起平坐。司马尚之见此,于是严肃的向司马元显指责张法顺没有才能,不值得受提拔宠异,更斥命张法顺退下。此举令司马元显十分不满,后来司马元显借故命豫州分二千兵予他所掌握的扬州,但司马尚之以豫州时有外寇,兵力只有数千,仍不够守戍,没有可分之兵为由拒绝,更令司马元显大怒。只是当时司马元显有意讨伐桓玄才没有再作行动。
隆安五年(401年),叛民领袖孙恩大军逼近建康,朝廷内外戒严,并征司马尚之入卫建康。司马尚之于是率精兵前赴,屯于积弩堂。当时孙恩刚大败于刘裕,重整军队后试图掩袭建康,但当知道司马尚之已到建康且刘牢之也回军,不敢进攻,于是撤退。建康危机又再解除。
元兴元年(402年)正月,司马元显正式下诏讨伐桓玄,以刘牢之为前锋都督,司马尚之继后,而桓玄则顺江东下迎击。桓玄一直过了寻阳都没遇上朝廷军队,到姑孰后就派冯该进攻历阳,拦阻洞浦并焚毁司马尚之的船舰。司马尚之于是率九千兵布阵于浦上,又派武都太守杨秋驻横江。不过,杨秋却投降桓玄,司马尚之军队于是自溃,司马尚之唯有逃到涂中。十多日后,司马尚之因被人告发行踪而被桓玄所捕,桓玄入建康掌握朝政后就杀害司马尚之等人。
元兴三年(404年),晋安帝经历过桓玄篡位而复位后,追赠司马尚之卫将军,谥为忠王。
王韶之《续晋安帝纪》曰:豫州刺史司马尚之,为桓玄将冯该所攻,仓储稍竭,或曰:"战士多饥,悉未付食。"是时,芦笋时也,尚掷旮笋曰:"且啖此,足解三日。"将士离心,遂败。
《晋书 卷三十七 列传第七》
忠王尚之,字伯道,初拜秘书郎,迁散骑侍郎。恬镇京口,尚之为振威将军、广陵相,父忧去职。服阕,为骠骑谘议参军。宗室之内,世有人物。王国宝之诛也,散骑常侍刘镇之、彭城内史刘涓子,徐州别驾徐放并以同党被收,将加大辟。尚之言于会稽王司马道子曰:“刑狱不可广,宜释镇之等。”道子以尚之昆季并居列职,每事仗焉,乃从之。
兖州刺史王恭忌其盛也,与豫州刺史庾楷并称兵,以讨尚之为名,南连荆州刺史殷仲堪、南郡公桓玄等。道子命前将军王珣、右将军谢琰讨恭,尚之距楷。允之与楷子鸿战于当利,鸿败走,斩楷将段方,楷单马奔于桓玄。道子以尚之为建威将军、豫州刺史、假节,一依楷故事,寻进号前将军;允之为吴国内史;恢之骠骑司马、丹杨尹;休之襄城太守。各拥兵马,势倾朝廷。后将军元显执政,亦倚以为援。
元显宠幸张法顺,每宴会,坐起无别。尚之入朝,正色谓元显曰:“张法顺驱走小人,有何才异,而暴被拔擢。当今圣世,不宜如此。”元显默然。尚之又曰:“宗室虽多,匡谏者少,王者尚纳刍荛之言,况下官与使君骨肉不远,蒙眷累世,何可坐视得失而不尽言。”因叱法顺令下。举坐失色,尚之言笑自若,元显深衔之。后符下西府,令出勇力二千人。尚之不与,曰:“西藩滨接荒余,寇虏无常,兵止数千,不足戍卫,无复可分彻者。”元显尤怒,会欲伐桓玄,故无他。
及元显称诏西伐,命尚之为前锋,尚之子文仲为宁远将军、宣城内史。桓玄至姑熟,遣冯该等攻历阳,断洞浦,焚尚之舟舰。尚之率步卒九千阵于浦上,先遣武都太守杨秋屯横江。秋奔于玄军,尚之众溃,逃于涂中十余日。谯国人韩连、丁元等以告玄,玄害之于建康市。玄上疏以闵王不宜绝嗣,乃更封尚之从弟康之为谯县王。安帝反正,追赠尚之卫将军,以休之长子文思为尚之嗣,袭封谯郡王。