张齐贤，曹州寃句人。太祖到西都，张齐贤以平民身份到马前献策，召至行宫，张齐贤用手画地，陈述十项事。其中四项论述符合旨意，张齐贤固执地认为都很好，皇上发怒，命令武士把他拉出去。
太宗选拔进士，想要把张齐贤放在高等，有关部门偶然失误，皇上不高兴，一榜进士全部授京官，于是任命张齐贤以大理评事身份通判衡州。当时本州审讯强盗，定罪都应处死，张齐贤到后，救活其中误入的五人。从荆渚到桂州，水路驿传役夫数千户，因邮传劳役而困苦，衣食大多不足，论述奏请减免一半。冬天，皇帝北征，议论的人都说应当迅速夺取幽蓟，张齐贤上疏说：“当今天下如同一家，朝野无事。圣人行事，举动必求万全，百战百胜，不如不战而胜，如果慎重对待此事，则契丹不值得吞并，燕蓟不值得夺取。”
当初，李氏占据江南，民户缴纳税钱三千以上的每户出壮丁一人，脸上刺字，自备武器盔甲交给官库，出征就发给他，每天支取粮食二升，称为义军。归附以后，都放回乡务农。到这时，谏官认为这些人长期在军队，不喜欢从事农耕，请求派遣使臣选择编入军队，连同他们的家属送到京城。张齐贤上言：“江南义军，本来都是善良的百姓，横遭黥面发配，无法逃避。光复之后，就放回家乡务农，长期蒙受朝廷感化，全都乐于农业。如果按户查找，就会受惊扰。法令贵在连续，政治崇尚清静，前画的敕令已经放回从事农业，不如暂时沿用旧制。”张齐贤官居转运使之职，勤于探究民政弊病，实行宽政，江左的人对他思念不忘。
雍熙三年，授给事中、代州知州，与部署潘美共同统率边境军队。这时辽兵从湖谷入侵，逼近城下，神卫都校马正把所辖兵力排列在南门外，寡不敌众，副部署卢汉餮胆小害怕，固守营垒。张齐贤挑选厢军二千人，从马正的右方出击，慷慨誓师，以一当百，辽兵于是后退。
张齐贤又请求征调江淮、荆湘壮丁八万人增加防御，朝廷商议认为要动摇民心，而且水乡之人，到遥远的西部边境守卫也不利，其计就此中止。
五年，任满回朝，请求告老，以司空退休。入宫在便殿辞别，刚刚下拜就摔倒，皇上急忙阻止他，允许两个儿子搀扶上殿，命令增加坐垫到三层。七年夏天，去世，享年七十二岁。赠官司徒，谧号文定。
