張輔字世偉，南陽西鄂縣人，漢朝河間相張衡的後代，年少時便有才幹，與從母弟劉喬一樣有名聲。
當初張輔補藍田縣令，在任上不為當地豪強所屈。當時強弩將軍龐宗，是西州的大族，他的護軍趙浚，是龐宗夫人的本傢，因此他放縱僮仆橫行霸道，是當地百姓的一大禍患。張輔按法律嚴厲制裁，殺瞭兩個惡奴，又沒收瞭龐宗的二百多頃田地分給貧窮之傢，一縣人都稱贊他。又轉任山陽縣令，太尉陳準傢中的僮仆也兇暴橫行，張輔依然殺瞭作惡的傢仆。累遷尚書郎，封為宜昌亭侯。
轉為禦史中丞。當時積弩將軍孟觀和明威將軍郝彥不和，孟觀借軍中之事陷害郝彥，又有賈謐、潘嶽、石崇等結幫相互吹捧、相互提攜，還有義陽王司馬威有欺詐假冒的事，張輔一一追究彈劾他們。梁州刺史楊欣姐姐新喪，不滿十天，車騎長史韓預強行聘娶他姐姐的女兒為妻。張輔為中正，貶瞭韓預的官以清正風俗，輿論給予瞭贊揚。到孫秀執政時，司馬威誣告張輔，孫秀被迷惑而輕信，準備按刑律懲治張輔。張輔給孫秀寫信說：“我張輔隻知道仰慕古人，當官辦事，不知道稍稍為自己考慮一下。現在義陽王司馬威就算是能寬宏大量，不和我計較，然而我母親已高齡七十六瞭，也時常為我擔驚受怕，怕我總有一天會因積怨而遭來災禍。願明公留神審查我任官前後的行事，隻不過是一個忠於朝廷的愚臣而已。”孫秀雖一貫兇狠狡詐，也知張輔平素忠貞正直，是被司馬威陷害誣告，就不再追究瞭。
後來遷為馮翊太守，這時長沙王司馬磖看到河間王司馬..專權橫行於關中，有圖謀不軌的跡象，就將此告訴瞭惠帝，惠帝密詔雍州刺史劉沈、秦州刺史皇甫重討伐司馬..。於是劉沈、皇甫重與司馬..戰於長安，張輔遂帶兵援救司馬..，劉沈等被打敗。司馬..感謝張輔的援救之情，就讓他代替皇甫重擔任瞭秦州刺史。當時援救司馬..時，金城太守遊楷也有戰功，轉為梁州刺史，他沒有到任。遊楷聽說張輔回返原地，幾次去迎接，想找機會除掉他。遊楷殺瞭天水太守封尚，想逞霸於西疆。遊楷召隴西太守韓稚一起商議，未有結果。韓稚之子韓樸勇武強悍，當場殺瞭有不同意見的人，接著召集軍隊攻打張輔。張輔與韓稚戰於遮多谷口，張輔軍被打敗，張輔被天水故帳下督富整所殺。
當初，張輔曾著文論道：“管仲比不上鮑叔，鮑叔知道奉什麼主，投什麼國。管仲奉主得不到事業成功，所投奔的又是無作為之國，富貴後娶三姓之女，而又像君王一樣行反土占之禮，這些鮑叔都不會幹。”又議論班固、司馬遷說：“司馬遷的著作，文辭簡約而事理清晰，敘三千年事隻用五十萬言；而班固敘兩百年事卻用瞭八十萬言。繁簡不同，這是班固比不上司馬遷的第一點。良史記事，對善行應加以獎勸鼓勵，對惡行要進行指斥監誡，這是極普通的道理。一些中等人物的微小之事，司馬遷不予記載，而班固都記瞭下來，這是比不上司馬遷的第二點。文中詆毀貶低晁錯，有傷忠臣之道，這是比不上司馬遷的第三點。司馬遷是首創，班固是因循，其難易各不相同。司馬遷為蘇秦、張儀、范睢、蔡澤作傳，辭采華麗流暢，也足以表現出瞭他的文才。故記辯士則辭藻華美，敘實錄則準確簡煉，所以司馬遷稱得上是優秀的史學傢。”又評論魏武帝不及劉備，樂毅低於諸葛亮，其文章多不見記載。