张虔威，字元敬，清河东武城（今河北故城县）人也。父晏之，齐北徐州刺史。虔威性聪敏，涉猎群书。其世父嵩之谓人曰：“虔威，吾家千里驹也。”年十二，州补主簿。十八为太尉中兵参军，后累迁太常丞。及齐亡，仕周为宣纳中士。高祖得政，引为相府典签。开皇初，晋王广出镇并州，盛选僚佐，以虔威为刑狱参军，累迁为属。王甚美其才，与河内张衡俱见礼重，晋邸称为“二张”焉。及王为太子，迁员外散骑侍郎、太子内舍人。炀帝即位，授内史舍人、仪同三司。寻以藩邸之旧，加开府。寻拜谒者大夫，从幸江都，以本官摄江都赞治，称为干理。虔威尝在途见一遗囊，恐其主求失，因令左右负之而行。后数日，物主来认，悉以付之。淮南太守杨綝尝与十馀人同来谒见，帝问虔威曰：“其首立者为谁？”虔威下殿就视而答曰：“淮南太守杨綝。”帝谓虔威曰：“卿为谒者大夫，而乃不识参见人，何也？”虔威对曰：“臣非不识杨綝，但虑不审，所以不敢轻对。石建数马足，盖慎之至也。”帝甚嘉之。其廉慎皆此类也。于时帝数巡幸，百姓疲敝，虔威因上封事以谏。帝不悦，自此见疏。未几，卒官。有子爽，仕至兰陵令。