张若霭在张廷玉四十二岁那年才出生,而且与张廷玉的生日是同一天。他刚满二十岁就袭一等轻车都尉,雍正十一年(1733年)在殿试中,张若霭的试卷被雍正帝认为“颇得古大臣之风”,尤其欣赏卷中对“公忠体国”的论述,因此将其卷从进呈的第五卷拔至一甲第三名(探花),拆卷后发现是张廷玉之子张若霭,大喜,派太监向张廷玉报喜。张廷玉向雍正帝恳求“愿推以让天下寒士”,雍正帝允许,改为二甲第一名。张若霭登科后,授翰林院编修,充日讲、起居注官,入直南书房。乾隆三年(1738年),袭三等伯,迁侍读学士,不久因儒臣袭爵不合规定,所以罢其世职,累迁内阁学士。乾隆十一年(1746年),张若霭随乾隆帝西巡五台山,生病后回京,不久去世,年仅三十四岁。乾隆帝令按伯爵品级给银一千两办理丧事。