张砺，磁州人，早先在唐担任掌书记，迁任翰林学士。适逢石敬瑭起兵，唐主任命张砺为招讨判官，随赵德钧到河东援救张敬达。及至敬达兵败，张砺到了契丹。
后来太宗见张砺刚强正直，颇有文采，提升为翰林学士。张砺遇事总是有言必发，无所回避，皇上更加重用他。不久，计划逃跑回故国，为骑兵追获。皇上责备他说“：你为什么要逃走？”张砺回答说“：我不习惯风俗、饮食、居处，心里总是郁郁不乐，因此想逃走。”皇上回头对通事高彦英说“：我曾经告诫你要好好待他，为什么还是让他因不得其所而逃走？张砺要是走了，你能再找回一个张砺来吗？”于是杖击彦英而向张砺致歉。
会同初年，升任翰林承旨，兼吏部尚书，随从太宗讨伐晋国。进入汴京，诸将萧翰、耶律郎五、麻答等人肆意杀人抢掠，张砺上奏说：“现在大辽刚刚得到中国，应该任用中国人治理他们，不能专用我国人及左右亲信。倘使政策和法令出现差错，那么人心就会不服，即使暂时得到中原也还是要失去的。”皇上不听。改任张砺为右仆射，兼门下侍郎、平章事。
不久，皇上北归，到达栾城便崩逝了。当时张砺在恒州，萧翰与麻答派兵包围了其府第。张砺正卧病于床，勉力支撑着出门见他们。萧翰数落他说“：你为什么要在先帝面前说契丹国人不可以做节度使？我以国舅之亲，出兵征讨有功，先帝留我守卫汴京，任命我为宣武军节度使，独有你以为不行。又诬陷我与解里喜欢抢掠别人的财物子女。今天我一定要杀了你！”敦促手下人将他拘锁起来。张砺大声抗言道“：此乃事关国家大局，维系国家安危之所在；所以我直言不讳。你要杀就杀，何必要锁起来呢？”麻答觉得张砺乃是重臣，不可擅自滥杀，便出面相救制止。当晚，张砺愤恨而死。