胡瑗像993年（淳化四年），胡瑗生于淮南东路泰州如皋县宁海乡胡家庄（今属江苏省如皋市）的一户官吏家庭，后迁居如城严家湾。祖籍今陕西省子长县安定堡（一说甘肃省镇原县，西汉时属安定郡）。其家族世代显赫，始祖胡遵为曹魏车骑将军，后裔中曾有过两位皇后和太后，另有三公九卿及将军、太守10余人。祖父胡修已任泰州司寇参军时举家随迁，但自其父胡讷任宁海军节度推官后（在当时属于下等官吏），因俸禄较少，竟步入“家贫无以自给”的境地。

胡瑗自幼聪颖好学，7岁善属文，13岁通五经，被左右乡邻视为奇才。胡讷说：“此子乃伟器，非常儿也！”胡瑗读书勤奋，好学上进，且志向远大，常以圣贤自任，但因家境衰微，早年并未受过良好教育。20岁游学于山东泰山，与孙复、石介等人到山东泰山栖真观求学深造。此间心志远大，10年不归，潜心研习圣贤经典。他为了不让心志受到干扰，每当拆开家书，见有“平安”二字即投入山涧不再展读。在此期间，他“食不甘味，宿不安席”，刻苦钻研学问。

1024年（天圣二年）南归，然而却7次应考不中。40岁时放弃科举意念，1032年春返回泰州城，在华佗庙旁经武祠（即后来江苏省泰州中学所在地）办起了一所书院（私塾），并以祖籍安定立名，称安定书院。

1034年（景祐元年），胡瑗开始到苏州一带设学讲授儒家经术。时值原朝廷中向来重视文教的范仲淹因反对废后被贬该地任知事。翌年范在南园开办郡学后，聘他为首任教席，并送自己的儿子范纯佑拜其为师。到任后，他即制订了一套严格的校规。由于范公子能带头遵守，故其他出身豪门的学生无一胆敢肆意践踏。在知州的鼎力支持下，郡学很快就成为了全城各地学府的楷模。

胡瑗像1036年（景佑三年），经范仲淹的引荐，胡瑗以布衣身份，与知杭州的音乐家阮逸同赴开封接受正急于雅乐改进的宋仁宗召见，并奉命参定声律，制作钟磬。其间，他合乎古礼的文雅举止深得朝中要人的赞赏，事成后即被破例提拔为校书郎官。

1040年（康定元年）8月，随镇守延州（今延安）的范仲淹到陕西，被举荐为丹州（今宜川县）军事推官。此间撰《武学规矩》一书，提倡国家大兴武学，以抵御外部侵略。

1041年（庆历元年），胡瑗调密州（今山东诸城）任观察推官时，因父亲去世而辞官回家奔丧。翌年复出，改任保宁（今浙江金华）节度推官。不久应湖州（今浙江省湖州市）太守滕宗谅之邀，到当地的州学任主讲教授，以致“四方之士云集受业”。其间提出了“致天下之治者在人才，成天下之才者在教化，教化之所本者在学校”的至理名言，并创立了卓有成效的“湖学”。

1044年（庆历四年），范仲淹推行新政，取胡瑗教学法撰为《学政条约》颁行全国，并效法湖州的办学经验兴办了一所中央太学。

1050年（皇祐二年）11月，朝廷再次更定雅乐，仍诏胡瑗与阮逸进京主持，并在司马光和范景仁的支持下以3年时间完成。此间两人还合作撰就了《皇祐新乐图记》3卷。

1052年（皇祐四年）胡瑗升国子监直讲，主持太学，晋光禄寺丞。被征为太子中舍，后以殿中丞致仕。任教期间因学识渊博且教学得法，备受学生的欢迎并敬重，当时朝中半数官员出自门下。

胡瑗半身像1056年（嘉祐元年），胡瑗晋升太子中舍暨天章阁侍讲，成为了当朝太子的导师。同时兼在太学协助博士的考教训导与执掌学规。此时虽身为命官，却始终保持师生平等，常与学生切磋交流。当时的受教者包括多位皇室、众多知名学者及礼部中的近半官员，故深得学生与朝中上下的敬重，视他为一代宗师，被神宗称为“真先生”。

晚年，胡瑗依旧苦读勤教，并参议朝政，终因积劳成疾而卧床不起。

1058年（嘉祐三年）经仁宗皇帝钦准，领太常博士衔赴杭州长子胡志康任所疗养。临行前京城轰动，相送者“百里不绝”。

1059年（嘉祐四年）六月，胡瑗卒于杭州。谥“文昭”，长子胡志康将胡瑗葬于葬于浙江乌程（湖州原菰城附近，何山之原），幼子胡志正携带衣冠归葬于泰州如皋安定乡。