胡长粲起家给事中,迁黄门侍郎。
北齐建立,累迁章武太守,为政清静,颇得人和。除兼并省尚书左丞,当官正色,无所回避。尚书左仆射赵彦深密勿枢要,中书舍人裴泽便蕃左右,以殿门受拜,皆弹纠之。赵彦深等颇有恨言,长粲不以介意。
北齐后主践祚,长粲被敕,与黄门冯子琮出入禁中,专典敷奏。武成帝还邺,后主在晋阳,长粲仍受委留后。后主从武成还邺,仍敕在京省判度支尚书,监议五礼。武成崩,与领军娄定远、录尚书赵彦深、左仆射和士开、高文遥、领军綦连猛、高阿那肱、右仆射唐邕,同知朝政,时人号为八贵。于后娄定远、高文遥并出,唐邕专典外兵,綦连猛、高阿那肱别总武任,胡长粲常在左右,兼宣诏令。从幸晋阳。后主既富于春秋,庶事皆相归委。胡长粲尽心毗奉,甚得名誉。又正为侍中。丁母忧,给假驰驿奔丧。寻有诏,起复前任。陇东王胡长仁心欲入处机要之地,为执政不许。胡长仁疑长粲通谋,大以为恨,言于太后,发其阴私,请出为州。太后为言于后主,不获已,从焉。除赵州刺史。及辞,眷恋流涕,后主亦悯然慰勉之。至州,存心政事,为人吏所怀。因沐发,手不得举,失瘖,卒于州。 后主闻而伤悼,在朝文武嗟叹,咸惜之,赠司空公、尚书左仆射、瀛州刺史,谥文贞公。