初为司空参军。时南秦州民吴富反叛,诏以河间王元琛为都督,延伯叔父源子恭为军司,源延伯为统军,随叔西讨,战必先锋。源子恭见其年幼,常呵制之而不能禁。
源子雍在夏州,表乞兵援,诏源延伯率羽林军一千人赴之,城斗野战,勇冠三军。源子雍之向东夏,留源延伯城守,会以后事。源延伯与兵士共分汤菜,防固城隍。及源子雍为胡人所执,合城忧惧。源延伯乃人人晓喻曰;"吾父吉凶不测,方寸焦烂,实难裁割。但奉命守城,所为处重,若以私害公,诚孝并阙。诸君幸得此心,无亏所寄。"于是众感其义,莫不励愤。朝廷闻而嘉之。除龙骧将军,行夏州事,封五城县开国子,食邑三百户,卒能固守。及后刺史至,源延伯率领义众还赴子雍,共平黑城。在棠桥战,先锋陷陈,身擒维摩。及至白水,首摧阿非。
随源子雍至京都,进爵浮阳县伯,增封百户,为谏议大夫。假冠军将军、别将,随子雍北讨,与葛荣战殁,时年二十四,追赠使持节、平北将军、凉州刺史,开国如故。