彭浚厚以待人。“于济人利物之事,无不慷慨为之”。他视学奉天,见其露天考棚,考生备受日晒雨淋之苦,便慷慨解囊,援建了东西考房,添置了40套课桌椅。晚年辞归故里,将多年积蓄尽数倾出,置义田364石合218亩,又购义房,办起了“文成公所”,以资乡试、会试清贫学子之用。
彭浚嫉恶如仇。巡视衡州府时,耳闻一绸缎铺老板“以开店之名,行聚赌、嫖娼之实”。便以“人情尽在两条腿,衣食全靠一口田”的对联揭了老底,使其在唾骂声中倒闭。道光年间,他巡视郴州,耳闻宜章知县鱼肉百姓,无恶不作,便打轿回郴州,决心申奏严惩。巧的是回郴州的路上恰与宜章知县途中相遇。知县坐的是大轿,仪仗开路,衙役、打手前呼后拥一大溜,好不威风。彭浚故意将小轿傍放路心,他要亲眼见识一下这位横行乡里的知县大人。一贯作恶多端的知县,哪容得下小轿挡他的路,即令衙役动手,扬言要掀翻小轿,将主人和轿夫往死里打。彭浚从轿里亮出“天子门生,门生天子”的红字灯笼,走出轿来,正色道:“知县大人官不大,威风不小啊!”知县这才知道来者是内客大学士彭浚,吓得面如土色,冷汗淋漓,赶紧磕头求饶。彭浚说,你不是嫌这条路窄了吗?你自己出钱把路加宽就行了。知县哪敢不依,只好将自己搜刮来的不义之财把宜章到郴州90里山路扩宽修好。这条古道现在还在。
擅长诗书画,留存不少诗联和小楷字帖如《滕王阁序》、《岳阳楼记》等,为世人所临摹。著有《赐砚堂诗文集》、《赐砚堂进呈录》、《赐砚堂今古文》、《闽轺吟集》等。喜画梅花,南岳大庙藏有其梅花图数幅。卒后祀乡贤祠。