西晋末年,羯族人在河北起兵,程遐随石勒征战,任右司马。石勒占领冀州诸县后,提拔程遐为宁朔将军,兼冀州七郡诸军事。
太兴二年(319年),程遐和张宾等100多人上疏劝进,要石勒称帝,石勒遂称赵王。
石勒迎娶程遐之妹为夫人,生世子石弘。程遐作为皇帝国戚,权势渐大。不久,程遐升任右长史,总揽后赵朝政,朝臣竞相投依逢迎。
邺城(令河北临漳县西南)是华北地区的一座重要城市,由后赵勇将、石勒从子石虎镇守。石勒和程遐秘密商议,要在邺城营造宫殿,并改由世子石弘镇守。因此,程遐遭石虎忌恨,为以后埋下祸根。
333年7月,石勒病亡,石虎主持勒丧,棺殓既毕,即舁棺夜瘗山谷。
石虎劫出太子弘,使他升殿,胁令手书,收捕程遐、徐光下狱。逼石弘登位,改元延熙。文武百官,各进位一等,惟将程遐、徐光牵斩市曹。