1938年11月，侵華日軍占領巨鹿縣城後，張率其殘兵余部投靠了日軍。由於他死心踏地的為侵華日軍效勞，很快就被提升為警備隊分隊長，保安隊第二大隊長等職。1943年10月，縣保安大隊長王文珍被中***領導的武工隊處死後，他又被提升為大隊長、副聯隊長。1945年7月，張隨日軍被迫棄城逃往邢臺，編為順德道公署保安第四聯隊任隊長。日本投降後，張由邢臺逃到臨湍關、石家莊、天津等地。1946年7月，他經張慶炎(天津團管區司令，內邱人)介紹任天津縣自衛總隊副職，1948年改為保安團任營長；是年11月被編入傅作義陸軍部隊二O九師八O七團三營任營長，曾到北京至張家口間作戰。是年12月，該部回調北京行至南口附近時，被解放軍全部殲俘。張被俘經教育後，釋放回北京壹O四師原部隊任營長。1949年2月，北平和平解放，他畏罪潛逃到綏遠、上海等地，以經商作外衣進行特務活動。
張百奎自1938年壹1945年當漢奸期間，特別是任巨鹿縣保安聯隊長後，燒殺掠搶，無惡不作，被人稱為殺人魔王。“據不完全統計，張百奎***親手及親自下令殺害***產黨於部28人、黨員7人、抗日戰士27人、群眾74人。”殺人手段極其殘忍，有刀砍、刺刀挑、刀鍘、活埋、點天燈、剝人皮等，其刑罰除常用的捆、綁、吊、打外，還有壓杠子、老虎凳、插竹簽、灌辣椒水、立鐓子、烙鐵烙、“披麻戴孝”、褲子裏裝蠍子等20多種酷刑。
1942年，地委書記李忠在巨鹿鹽池被張親手殺害。1943年8月，通訊員張國存被捕，被張砍了頭，還開膛破肚挖了心。·1942年8月10日，四區區長胡平鍔被張命人鍘為三截。在上疃，張把黨支部書記段福合的頭放在門檻上活活擠死。是年10月12日，縣婦聯主任楊秀峰在夏舊城村夏春錄家被捕，張將夏春錄的父親(該村村長)當場殺害，楊秀峰在獄中被割去雙乳，揪掉頭發受盡種種酷刑，被害時已很難辨認。還有後塔寺口通訊員被用布和棉花纏在身上澆上油，活活燒死。二區財政助理被釘在城門上活活剝了皮，張百奎用人皮做成皮帶壹直用著。1942年11月10日，城關西街***產黨員馬振舉被張殺害。是年12月，張百奎帶領警備隊包圍了吉家屯，將村長樊老殿和村幹部樊延彬、樊貴棟、吉黑林、陳存成及區助理樊延奪等12人活活鍘死。1944年正月17日晚，張讓其部下扮成二區中隊戰士將小馬莊抗日村長史成德逮捕，命用亂棍打死。1945年春，二區婦女主任李慶芬被捕，張讓軍犬咬破肚腸，然後將幾瓶蠍子倒入褲子裏蜇死。王文珍被處決後，張把北馬莊***產黨員張鳳海等18人殺死在王墳前，用18個人的頭祭奠王文珍。
張百奎不僅殘酷地殺害***產黨人和革命幹部，而且還濫殺無辜，草菅人命。
1942年，張率部在城西孟莊無故將壹名叫老拐的老太太用葦箔卷起來點著，並將10多名群眾鎖進屋裏活活燒死。1943年7月29日，張在楊家寨牽了張合義的牛，合義趁他不註意又把牛牽回，因故被張活活打死。並將其弟合起的腿用石頭砸斷，造成終生殘廢，還將另壹兄弟合進帶到縣城讓軍犬咬得遍體是傷，多次昏死。是年秋，張在任縣天口壹次殺害百姓9人。是年冬，張讓部下扮成八路軍武工隊深夜到蘇家營騷擾百姓。孟寵通之子誤認為真是八路軍，為他們燒水沏茶，抱柴烤火，並說也要參加八路軍。張天明帶隊進村後，便將孟老通年僅17歲的獨生子(孟有5女l男)推進火裏，用梯子壓在身上活活燒死。1944年，張率部到大盂莊“掃蕩”，該村華貴等被迫為他們跑前侍後。張說：“才換了把新刀，不知道快不快，想試試”，說著壹刀將華貴砍死。張在隆堯劉莊將青壯年集中到村外，命用機槍點點名，造成多名百姓遇難。張壹次“掃蕩”到大韓寨，看著壹排鹵水缸說：“什麽樣的鹹菜都吃過，唯獨沒吃過人肉鹹菜。”於是，命將20多名群眾倒栽頭扔進鹵水缸裏淹死。壹次，張在城東遇上壹次老人，他問多大歲數了。老人答說80歲了。張聽後奸笑著說：“多虧遇上我．不然妳就成人精了。”說著，便壹刀把老人砍死。又壹次在路上碰到壹個婦女背著小孩，張舉槍把母子二人打死，哈哈大笑，說真是彈無虛發，壹槍打死兩個。還有壹次，張去官亭“掃蕩”時遇到壹名孕婦，他便與漢奸張小六打賭，壹說婦女懷的是男壹說是女，為證實誰說的對，他便壹刀把婦女的肚子挑開。更為荒唐的是，1949年冬張“掃蕩”到草迷楊村時，碰見大屯頭村壹個17歲的小名叫石頭(孫禮信)的青年。他壹連將石頭摔了三個跟頭，隨後迎頭砍了壹刀，正巧人沒砍死，刀卻斷為兩截。這可氣壞了張百奎，讓把石頭帶到城裏，扣壓7天。其間，當張知道這名青年叫石頭時，罵到：“他媽的，怪不得把刀硌斷!”隨硬叫石頭出100塊大洋賠刀費，經人說情最後賠了60塊大洋才算了結。張百奎不僅到處殺人，而且在縣城內還設了三個殺人場，人們稱之為鬼王臺。在那裏張不僅常和日本人搞殺人競賽，而且常讓其部下對著抓來的抗日軍民練槍法、刀法和殺人膽量。巨鹿縣流傳著這樣壹首民謠：“巨鹿縣真倒黴，出了個漢奸張百奎，光人殺了壹千六，殺人不管妳是誰。”