高尚贤的父亲高魁，官至明工部虞衡司郎中，管理全国山泽财利。高尚贤从小就非常聪明又喜欢学习，他经常学习长遍的经史和其它方面的各种文章，可以说是饱读诗书，武宗正德五年（1510年）考中乡试，又上太学继续学习，在上太学时，他的文章就写的特别好，经常得到表扬，正德十二年（1517年）又考中进士，在工部担任主事，主要管理临清砖厂工作。他上任后发现砖厂的财务管理相当混乱，财务制度也不健全，贪污、行贿、受贿、私用公款等现象十分严重。于是高尚贤首先开始审查账目，查原因，找责任，堵塞漏洞。而他自己则很廉洁自律，对工作认真负责，一丝不苟，这时候部下对他进行贿赂，却受到了严肃的批评，得到了应有的处理，使其他人认识到只有认真工作才能得到重用。由于他在砖厂管理有方、成绩显卓，被提升到礼部仪制任主事，不久又升为礼部精膳司员外郎，专门负责皇帝的吃喝及国宴的安排招待等事务。嘉靖初年乾清宫发生了一场火灾，皇帝自我反省并命大臣们对朝廷的时事、政治等提出意见和合理化建议。于是高尚贤就给皇帝上书，他说：“皇上上朝的时候，有些皇亲国戚非常骄横，而有些太监也摆出架子，利用手中的一点小权利弄虚作假，传圣旨时又故意复杂化，其条件要求也很苛刻，想劝说他们都非常困难”。尚贤言语恳切地给皇上提了几条意见，皇上看后都采纳了。之后，升迁山东按察司佥事（按察使的属官）。上任后，首先下令整顿法纪，又亲自视察监狱和其他工作。当时在山东有些矿山的矿头闹事，煽动一些不知真情的群众组织暴乱。尚贤带兵亲往，擒拿了罪魁祸首，并以法惩办，很得民心。这样山东全境得到安定。后改任督学使，负责督导士人生员，重品德，务实学。他在任期间对所有生员严格考核，认真选拔，严禁投机钻营，考场作弊等行为发生，选拔造就出了大批的优秀人才，并使他们各尽其才，各展其能，都为朝廷作出了一定的贡献。

嘉靖四年（1525年）十月，因为他的父亲高魁逝世，他就请假回新郑为父亲守孝，等他守孝期满后，就被任命到陕西任按察司佥事。他到任时正是陕西关中地区遭灾，粮食欠收，百姓没有吃的，而那些奸吏却在敲骨吸髓，贪污钱粮，中饱私囊。豪强们也乘火打劫，想法巧夺，霸占百姓钱财。尚贤亲自对这些事情进行了明查暗访，根据已掌握的情况，对抓来的犯人进行了审讯，最后严惩了不法之徒。百姓们得以新生，又给很多冤案平反昭雪。后提升至光禄寺少卿，主管朝廷祭品，膳食等。而他在光禄寺所接触的大部分都是位高权重的高官，而这些高官之间又是勾心斗角，互不相让，也有伏蠹隐奸的卑鄙小人，依仗权势要挟他人，达到自己的目的，也有飞扬跋扈的贪官。然尚贤到任后，和同僚一起查找过去的问题，谨慎行事，填堵漏洞，杜绝一切不法行为，严格财务制度，加强了内部管理，在不长的时间内使祀典收支款项有所结余，多次受到皇上的赞扬。然而，有一次他在给皇帝的奏折中，内容有所误失，被罢了官，回到了新郑老家。