皇甫谧生后遂丧生母,家道更加衰落,过继给叔父,十五岁时随叔父迁居新安(今河南新安县),在战乱中度过了他的童年和少年。自幼贪玩不习上进,跟村童编荆为盾,执杖为矛,分阵相刺,嬉游习兵。年二十(公元234年)。仍游荡无度,犹不好学,人以为痴。一次,谧将所得瓜果进献叔母任氏,任氏说:“《孝经》云‘三牲之养,犹为不孝’。汝今年余二十,目不存教,心不入道,何以慰我?”因叹曰:“昔孟母三徙成仁,曾父烹豕从教。岂我居不卜邻,教有所阙,何尔鲁纯之甚也!修身笃学,自汝得之,与我何有。”(《晋书·皇甫谧传》)因对之流涕,谧甚感痛,遂拜乡人席坦受书。
明朝嘉靖年间,皇甫谧得以从祀景惠殿三皇庙。