张升善出生于1930年1月14日，山东平度张戈庄镇下张家村人士。1930年1月14日，张戈庄镇下张家村农民张登莱家喜添贵子，按照族谱顺序，张登莱给儿子起名张升善。张登莱出身寒微，幼年丧父，跟母亲学会务农，十岁学推车，十五学耕地，学得一手好农活，是附近有名的庄稼把式。但苦于没有上过学，念过书，目不识丁。十八岁那年，张登莱的命运有所转机，因为他的知礼懂事、勤劳善良，被一位街坊叔看好，过继为继子，过上了温饱的中农生活。张登莱喜欢听说书，并且耳听心记，久而久之，一部《三国演义》被他背得滚瓜烂熟，书里面歌颂“忠义”英雄，上报国家、下安黎庶的思想深深地影响着他，他暗暗发誓，等自己有了儿子，一定供他念书，让他做个懂得民族大义，为天地立心、为生民立命、为往圣继绝学、为万世开太平的人物。所以，当儿子长到7岁的时候，便把他送到了村里的私塾念书。1941年，抗日战争烽火燃遍中华大地，乡村学校也不是一块净土，国民党地方武装和伪军杂牌部队经常到学校捣乱，有的讲三民主义，有的讲大东亚共荣，有的讲要消灭一二五（即八路军）。张升善不知谁说得对，便回去问父亲，父亲告诉他：“专心读书，学有用之理，听好人之言。