抗日战争
抗日战争爆发后，任中共委员、前方分会(1941年改称华北军委分会)副书记、国民革命军第8路军副总指挥(9月11日改称第18集团军副总司令)，协助朱德指挥八路军开赴华北抗日前线，取得平型关等战役战斗的胜利。1937年10月与朱德、任弼时向中共中央建议，恢复在改编为八路军时取消的政治委员制度，加强部队的政治工作。11月，在延安抗日军政大学发表《争取持久抗战胜利的几个先决问题》的演说，阐述中日双方敌强我弱必然转化的依据，提出整个抗日战场应当采取的作战方针，详细论述了发动游击战争与全民动员的意义和方法。
1938年起在华北敌后参与领导发动群众，创建抗日根据地，扩大抗日武装;指挥部队开展独立自主的游击战和有利条件下的运动战，挫败日军多次“围攻”和“扫荡”，同时与制造磨擦的国民党顽固派进行坚决斗争。
1940年3月组织发起卫(河)东和磁武涉林战役，重创国民党顽固派军队，维护了国共合作抗日的大局。8月，为粉碎日军的进攻和防止国民党投降的危险，在华北指挥实施百团大战，对正太、同蒲、平汉铁路等重要交通线进行大规模破袭战，前后历时3个多月，进行大小战斗1800余次，毙伤俘日伪军4万余人，增强了全国人民争取抗战胜利的信心。
1942年8月任中共中央北方局代理书记，统一领导华北敌后的对敌斗争、整风学习、大生产和减租减息运动，巩固敌后抗日政权，实行精兵简政，领导军民渡过抗日战争最困难的阶段。1943年9月到延安参加整风运动。1945年6月当选为中共第七届中央政治局委员。8月被任命为中共副主席兼总参谋长，协助毛泽东、朱德指挥大反攻作战。
解放战争
解放战争时期，任中国人民解放军副总司令。1947年3月起任西北野战兵团(后相继改称西北野战军、第一野战军)司令员兼政治委员，指挥仅2万余人的部队同进攻陕甘宁解放区的23万国民党军作战。在中共中央和解放军总部主动撤出延安后，根据毛泽东提出的作战方针，采用“蘑菇战术”，拖着敌人兜圈子，并不断进行袭扰，使其屡屡扑空，陷于十分疲劳和十分缺粮的困境。并寻机集中优势兵力各个歼灭敌人，在一个半月内于青化砭、羊马河、蟠龙镇三战三捷，歼敌1.4万余人。同年8月指挥沙家店战役，歼敌两个旅，挫败国民党军对陕北地区的重点进攻，基本扭转了西北战局，保卫了中共中央机关的安全，有力地配合了人民解放军在其他战场的作战。
1948年春在宜川战役中，以围城打援战法歼敌5个旅，并于4月21日在西府陇东战役中收复延安。
1949年指挥第一野战军和华北军区第18、第19兵团，运用军事进攻与和平谈判相结合的方式，经过陕中、扶眉、兰州、宁夏、河西等战役，歼灭和改编国民党军30余万人，解放西北5省。6月任中共中央西北局第一书记。
抗美援朝
新中国成立后，任中央人民政府人民革命军事委员会副主席、西北军政委员会主席、西北军区司令员、新疆军区司令员兼政治委员。1950年10月，在中共中央政治局扩大会议上，坚决拥护毛泽东关于抗美援朝的主张。出任中国人民志愿军司令员兼政治委员，率志愿军跨过鸭绿江，在技术装备落后、后勤供应困难、异国作战、地形生疏等不利条件下，与朝鲜人民军一道迎战以美国为首的“联合国军”和南朝鲜军队。战争初期，乘敌恃强分兵冒进，及时修正作战计划，变更部署，指挥志愿军以近战、夜战、迂回穿插断敌后路的打法，在第一次战役中歼敌1.5万余人，初步稳住了战局。第二次战役中，乘敌尚不了解志愿军的兵力和意图，先指挥所部后退示弱、诱敌深入，然后猛烈反击、迂回敌后断其退路，歼敌3.6万人，收复“三八线”以北大部地区，彻底粉碎了麦克阿瑟在圣诞节前占领全朝鲜的狂妄企图，扭转了朝鲜战局。第三次战役中，指挥部队突破敌“三八线”防御阵地，占领汉城，将战线推进到北纬37度线附近，并及时察觉敌人企图，果断下令停止追击。第四次战役中，面对敌全线反扑，运用节节抗击、战役反击、运动防御等多种作战样式，予敌以重创。第五次战役中，指挥志愿军实施全线反击，歼敌8.2万余人，把战线稳定在“三八线”附近地区，粉碎了敌人在中朝军队侧后登陆的计划，迫使其转入战略防御并接受停战谈判。
1951年6月，他根据毛泽东的指示，适时提出“持久作战，积极防御”的作战指导原则，采取以阵地战为主的作战形式，指示部队利用山地有利地形构筑工事，依托阵地轮番作战，采取“零敲牛皮糖”的战法，一次歼敌一小部分，积小胜为大胜，以配合停战谈判的斗争。同时集中群众智慧，推广“马蹄形隧道”，在250公里的防御正面和东西海岸重点地区筑成坑道与野战工事相结合的坚固阵地防御体系;推广狙击杀敌(冷枪冷炮)运动和小分队夜袭奇袭“快打快撤抓一把”的打法;推广诱敌离开工事后集中炮火予以杀伤的“引肉上砧”战术等多种创造性战法。在此期间，他指挥志愿军以顽强防守与适时反击相结合的战法，粉碎敌人多次局部进攻，大量歼灭敌有生力量，使战线逐渐南移。此外，他还挫败了敌以切断中朝方面运输补给为目的的“绞杀战”和以制造疫区为目的的细菌战。1952年4月因病从朝鲜回国就医，愈后被留在中央，一面主持军委日常工作，一面兼顾志愿军作战。为了促进停战的早日实现，他于1953年6月返回朝鲜前线，建议举行并组织实施了金城战役，以强大兵力对南朝鲜军坚固阵地进行突击，歼敌5万余人，促使停战谈判达成协议，并造成停战后的有利态势。7月28日以中国人民志愿军司令官身份在朝鲜停战协定上签字。在朝鲜作战期间，他教育部队尊重朝鲜人民的民俗风情，遵守朝鲜政府的政策法令，爱护朝鲜的一山一水一草一木。被授予“朝鲜民主主义人民共和国英雄”称号。