张邵，字茂宗，是会稽太守张裕的弟弟。最初张邵当晋朝琅邪内史王诞的龙骧府功曹，桓玄把王诞贬斥到了广州，亲朋故友都离开了他，战乱饥荒中，只有张邵给王诞的妻儿送粮送衣，他重情义像这样。桓玄篡位称帝，张邵的父亲张敞以前当尚书，因为回答问询事情稍有错误，被降为廷尉。到武帝讨伐桓玄的时候，张邵劝张敞向刘裕表示忠心，武帝非常高兴，叫人在张家门边写上命令：“有冒犯张廷尉的，以军法处置。”王谧当扬州刺史，选张邵当主簿。刘毅做亚相的时候，当世的名流无不到他门下拜望，只有张邵不去。武帝更加信任他，转任他为太尉参军。
武帝巡视燕地，回到京城。贼兵造反，围困城池，但是百姓们到河边观望敌兵，很悠闲的样子，一点也不害怕。武帝觉得很奇怪，拿这个疑问询问张邵，张邵说：“虽然叛军逼近京城，但主上您从燕地回来了，百姓们现在就不再害怕了。”武帝很高兴，不久张邵补任州主簿。到武帝讨伐刘藩的时候，张邵当时在府衙值班，当晚他便通告手下官员说：“大军要大规模讨伐，你们各位应该修整好船舶和仓库，到明日清晨办好。”第二天天亮，武帝让各省的主簿参军筹措物资，所需物资立刻全部送到了。武帝很奇怪地问他们为什么能如此迅速，众吏回答说：“这是昨夜张主簿叫我们准备好的。”
刘穆之去世时，朝中人心浮动忧惧，朝臣们都想下诏用司马徐羡之代替刘穆之。张邵说：“朝廷现在确实是危急紧迫的时候，应该向北(刘裕在北)请示然后再定夺。”武帝很赞赏他临事不乱，有大臣的体统风度。十四年，武帝想用世子刘义符镇守荆州，张邵进谏说：“世子的重要性，关系到江山承系，不应该让他处在外藩。”武帝采纳了这个建议。谢晦造反，派人送信给张邵，邀请他一起造反，张邵没有拆看信件，派使者快马将信件上交给武帝。
王华和张邵有嫌隙，到王华参与朝廷机要时，张邵的亲戚朋友为他担心。张邵说：“王子陵公正宽容，必然不会因私仇妨碍正事。”这次雍州刺史的任命，实际正是王华提议的。张邵到襄阳后，建立长长的围岸，修理堤坝堰塘，增加两年几千顷垦田，本郡百姓依靠这些变得富足。丹江、淅川二江蛮人多次侵略，张邵诱引蛮人首领，趁大会时杀了他们，并且袭击了蛮人所有部落徒众。张邵既然欺骗了蛮人部落，蛮人到处造反，水陆两路都被截断。他的儿子张敷到襄阳看望他，准备回京的时候，蛮子们想乘机抓住张敷。恰遇蠕蠕国派使者朝贡，蛮人以为是张敷，于是抓住了使者，张邵因此事被降为扬烈将军。张绍去世，追赠恢复了他的爵位和封地，给予他的谥号是“简”。张邵临终，遗言叮嘱家人，用青菜瓜果做祭品祭祀自己，用苇席铺设灵车，儿子们都听从了他的遗嘱。
