张归霸自太祖镇宣武补剧职僖宗光启二年与蔡贼秦宗权将张郅较胜为飞戈所中即扌友马却逸控弦一发贼洞颈而坠遂兼骑而还太祖时于高丘下瞰备见其状面加赏激厚以金帛及所获马锡之。又常被命发伏兵掩杀千余人夺马数十匹寻奏授捡校左散骑常侍文德初与徐怀玉领兵大败蔡贼太祖召至赏之曰：昔耿弇不俟光武击张步言不以贼遗君父弇之功尔其二焉昭宗大顺中与燕人战于内黄杀刘仁恭兵三万余众戎绩超特居众将之右累官至检校右仆射光化二年权知邢州事明年春李嗣昭以蕃汉五万来寇归霸坚壁设备晋军不敢顾其城遂移攻洺州陷焉时太祖在滑颇虑邢之失守及葛从周复洺水嗣昭北遁归霸出兵袭之杀二万余众捷至赏赐殊等旋以功奏加检校司空光化初迁莱州刺史秩满授左卫上将军。又除曹州刺史其秋加检校司徒副刘知俊御邠凤之寇败之太祖受禅拜右龙虎统军改左骑卫上将军充河阳诸军都指挥使明年夏六月就除河阳节度使检校太保寻加同平章事七月卒于位诏赠太尉。