张镒是朔方节度使张齐丘之子,早年以父荫授左卫兵曹参军。后授大理评事,累迁殿中侍御史。乾元初年贬抚州司户参军。再贬晋陵令。江西观察使张镐表为判官,再迁屯田员外郎。与杨绾、崔祐甫友善。大历初年,出京担任濠州刺史。历官江西、河中观察使。建中二年(781年),拜中书侍郎、同中书门下平章事。卢杞忌张镒忠直,以张镒为凤翔陇右节度使。张镒请以韦皋权知陇州。
建中四年,爆发泾原兵变,德宗逃至奉天(今陕西乾县)。朱泚的旧部凤翔兵马使李楚琳作乱,张镒逃出凤翔三十里,与二子同时被俘杀。
《旧唐书·卷一百二十五·列传第七十五》《新唐书·卷一百五十二·列传第七十七》有记载。