巍峨太行山上，日本鬼子气急败坏地叫喊：“皮猴子，大大的鬼！”这句无可奈何又恨之入骨的话，是日军翻译传出来的，更增添了皮定均的传奇色彩。“皮猴子”这个绰号在敌人那里传，也在方圆百里老百姓那里传。这是皮定均第一个绰号。
抗日战争爆发后，皮定均担任八路军一二九师特务团团长，随师部一起，转战在太行抗日前线。
1939年，晋冀鲁豫的太行山根据地，已成为坚持敌后抗日的坚强堡垒，八路军总部和一二九师师部都设在这里。这块根据地，头顶正太（线），脚踏陇海线，西面控制平汉和同蒲两线，南北控制邯长公路，地理位置极为重要，日军调动5万兵力，妄想一举除掉这个“心腹之患”。日军进攻太行的企图是：正面进攻，打通邯郸至长治公路，把太行分割成南北两块，然后实行所谓分区“清剿”，把我军消灭在太行山地区。同时，国民党顽军朱怀冰、孙殿英、侯如庸等部为虎作伥，暗中和日本鬼子相勾结，妄想进犯太行山根据地。
为保卫太行根据地，保卫八路军总部和一二九师师部的东南侧安全，刘伯承、邓小平命令皮定均带领特务团，到潞城、黎城、涉县、武安等县，控制邯长大道，开展游击战争，打击日军和顽伪的反动气焰。刘伯承对皮定均语重心长地说：“现在我们是前门拒虎，后门打狼，任务是艰巨的，只要把邯长大道牢牢控制住，虎狼再多，也难入门，主动权永远在我们手里！”
皮定均没有辜负领导的期望，勇敢地接受了这一艰巨而光荣的任务。
为了粉碎敌顽夹击的阴谋，首先斩断日军伸进太行山区的魔爪，1939年6月底，皮定均率一二九师特务团奉刘邓首长的命令，开赴邯长大道沿线的武安、涉县、黎城、潞城一带迎击敌人。特务团是刚刚由师特务营的3个连扩编起来的，名义上是个团，实际上不到两个营，担负这样重大的任务是十分困难的，但行动前邓小平说得好：“只要我们按照毛主席的指示，广泛发动群众，开展真正独立自主的山地游击战，我们就能够战胜一切敌人。”皮定均遵照这一指示，于7月初到达了涉县外围，寻找战机。
7月12日，皮定均率部刚到涉县西北的岭后村，就得到消息：300多名日军进攻漳河西岸，由于连日大雨，漳河水暴涨，这些日军住在西岸的河南店，和东岸的主力隔开了。皮定均认为歼灭这股敌人是鼓舞士气、振奋精神、灭敌气焰的大好时机，决定以一营趁雨夜天黑，急袭河南店，给西进的敌人一个迎头打击。
在伸手不见掌的黑夜里，皮定均命令部队冒雨疾进，悄悄地摸进了河南店北街。敌人根本没有料到他们会在这大雨滂沱的深夜里突然降临。当二连的勇士们爬上房顶，揭开屋瓦，雨水滴在鬼子睡的铺上时，敌人还以为是房子漏了，慌忙起来躲雨。战士们不等敌人发觉，就扔进了几十个手榴弹，把屋里的鬼子报销了一半。侥幸活着的鬼子，连鞋都没穿，就鬼哭狼嚎地奔向村西北角，想抢占关帝庙旁那个高地。谁知我三连一排早已歼灭了关帝庙里的敌人，正好架起刚缴获的歪把机枪，集中火力给奔跑着的鬼子一顿痛击。残敌扭头便往河边跑，想涉水逃命，但漳河的激流却无情地吞噬了他们。对岸涉县城里的鬼子摸不清头脑，以为我军在渡河，便以机枪大炮向河里乱放。就这样，300多名日本鬼子，除少数逃上岸去以外，全部随着漳河付诸东流了。
日军在河南店遭受打击以后，知道邯长大道上有八路军阻击，变得小心谨慎起来，采取大部队行动、步步为营、稳扎稳打的战术。皮定均根据敌人相对集中、相互拉大空隙的特点，采取了“破击战”，破坏敌人交通和通讯联络，使敌人首尾不能相顾，经常成百辆汽车瘫在公路上不能行动，遭到抗日军民的袭击。
针对皮定均的这种策略，狡猾的日军采取分兵“进剿”的战术，皮定均又根据敌人分散的特点，让特务团和各县抗日武装组织三五人一组的夜袭队，利用山熟、路熟、人熟的有利条件，夜袭敌人据点。在邯长大道上，几乎每天夜里都能听到敌人碉堡的爆炸声，打得敌人心惊肉跳。
日军为了对付夜袭队，组织了许多支100人左右的巡逻队，昼夜到处巡逻。皮定均针锋相对，采取“麻雀战”的战术，将特务团和各抗日游击小组分散，藏在山头上或青纱帐里，瞅准机会，就一阵猛打。有时敌人死伤一大片，还不知子弹从哪里打来的。
在皮定均组织的声势浩大的群众性游击战打击下，敌人的“清剿”失败了。鬼子虽然付出了惨重的代价，邯长路的交通补给还是得不到保证。他们只得退缩到公路线上，增加了几十个小据点，并抽出部分兵力，在公路上来回巡逻，企图保住邯长路的通信和运输安全。交通是敌人的“生命线”，日军为保护邯长大道的畅通，采取了更加野蛮的方式，竟把靠近公路100米以内的树砍光，房屋烧光，沟填平，企图把邯长大道变成人不能蹲、鸟不能停的无人区。日军以为这么一来，八路军和游击队就不能接近他们，他们就可以据点为依托，保护他们的“生命线”。
但是，敌人的如意算盘打错了，他们怎么也没有想到，皮定均带领的八路军和游击队，正在广泛发动群众，制造各种各样的地雷等着他们，用地雷把敌人困死在据点里。一天晚上，战士们在据点外面扎了几个草人：一个鬼子兵，一个八路军，一个老百姓。八路军手里端着刺刀正好插在鬼子的胸膛上，老百姓拿的红缨枪也捅在鬼子背上，旁边插了块木牌，上面写着：“打倒日本鬼子！”第二天一早，一队鬼子出门看见这个场面，顿时怒气冲天，都围上来看，一个鬼子伸手就去拔牌子，一个鬼子用劲踢倒了草人，只听得轰隆几声巨响，草人和牌子底下的地雷统统爆炸了，鬼子死伤了一大堆。
从此以后，路边、沟旁、草堆、树根以及房子里的桌椅板凳、锅碗瓢盆，随时都会给敌人一个突然爆炸。敌人终于被堵在大门里，捆住了手脚，牢牢地拴在据点里，再也不敢乱动了。至此，邯长大道又成了八路军的天下，沿线敌人的据点，变成了风雨飘摇的孤岛，守敌也更加惊恐。日军扒房房炸，锯树树炸，去烧庄稼，刚到地边就响了地雷！就是缩在炮楼里、碉堡里，也免不了经常吃地雷。皮定均他们随便在据点外面或山上扎上几个草人，放上几声冷枪，敌人的机枪大炮就会打上几个钟头。敌人真正陷入了风声鹤唳、草木皆兵的境地。
鬼子使用的种种毒辣手段，全都被英勇的太行军民战胜了，日本鬼子只好乖乖地听皮定均的指挥，躲在城里一动也不敢动。这时，夺回邯长大道的时机已到，将鬼子全部逐出太行山区的条件已经成熟了。
12月12日，刘伯承、邓小平命令：对邯长大道之敌发起全线攻击。
在三四四旅及各县游击队的配合下，皮定均带领特务团夹击邯长大道中段，前后10天，作战70余次，打得日军和顽军狼狈不堪，不得不全线退出邯长大道。皮定均率领部队一鼓作气，连下响堂铺、河南店、涉县。至26日，涉县至武安间敌十几个据点全被我军摧毁。进犯邯长大道的日寇，除少数逃回武安、邯郸外，大部被埋葬在太行山和邯长大道上了。
此次战斗，粉碎了敌人企图分割太行、歼灭我军的阴谋计划。邯长大道上的日军，不管是采用**、稳扎稳打，还是分区“清剿”、“三光政策”，都被我皮定均率领的特务团和当地抗日群众一一击破了。战后，皮定均被提升为太行军区第五军分区司令员，领导林南地区抗日斗争。
不久，林（县）南战役打响了。皮定均率领分区武装，一举歼灭孙殿英等顽军7000余人，吓得敌人龟缩在林县城和附近的几个据点里不敢轻举妄动，皮定均所部控制了林南和辉县大部分地区。
此后，皮定均升任第七军分区司令员，率部挺进豫北作战。
1943年5月，皮定均率部发起拔除孙殿英部大王庄据点的战斗，该据点位于辉县和汲县接连处，是敌人很早就控制的地方。这个据点是敌人的耳目，严重地威胁七分区各县之间的联络。皮定均决定拔掉这个钉子。他指挥部队分为两路：一路控制大王庄右侧的各个村庄，卡断敌人退路，并阻击可能增援的敌人；一路向据点猛进突袭。
战斗一打响，敌人全部龟缩在炮楼里，居高临下，以猛烈火力封锁，使我军无法接近。皮定均一面组织火力佯攻，一面指挥特务连用缴获日军的烟幕弹放烟幕。在敌人不辨东西的一刹那，我军迅速接近炮楼，一阵猛打、爆破，吓得敌人纷纷缴械投降。大王庄据点拔掉后，使龟缩在新乡、辉县、汲县的敌人失去了耳目，大大便利了七分区抗日武装活动。
此后，皮定均指挥七分区军民，接连又打了几个胜仗。皮定均决定乘胜追击，歼灭林县守敌，解放林县县城。当时林县城里住有3个团敌人，又有坚固的城防工事，硬攻是要吃亏的。皮定均决定设疑兵之计，调虎离山，破城歼敌。他一面组织一些侦察人员，不断在县城周围山头上装作画地图，看地形，做工事，一面发动群众大造八路军要攻城的舆论，并利用两面政权的人物向敌人宣传：县城已被八路军重重包围，很快就要总攻。敌人果然中计，误认为被八路军包围，组织两个团突围。皮定均指挥部队，乘敌突围之机，一举攻进城内，全歼守敌一个团。突围出城的两团敌军，也被预先埋伏的各县、区抗日武装歼灭大半。
林县城的解放，使敌人大为震惊，一见到八路军就不战而逃。皮定均抓住敌人士气低落这一弱点，指挥部队和各县抗日武装广泛出击，打击敌人。到1944年9月，整个豫北广大农村，完全掌握在抗日军民手中。1944年12月25日在太行杀敌庆功大会上，皮定均受到了刘伯承、邓小平的表扬。刘伯承表扬他“指挥作战机动灵活”，说他的游击战、麻雀战打得好，“满山遍野，神出鬼没，时而这里，时而那里，弄得敌人胆颤心惊，单兵都不敢出来大小便”，真是“太行山上，草木皆兵”。刘伯承称他对毛主席关于游击战争的战略战术思想有深刻的领会，运用得非常娴熟。