1926年随部队编入国民革命军，参加北伐战争。1927年1月于所在营成立士兵委员会。
1928年1月升任团长，4月在大革命失败的革命低潮时期加入中国共产党。同年7月22日与滕代远、黄公略等领导平江起义，组建中国工农红军第5军，任军长兼第13师师长。率部在湘鄂赣边转战数月，建立三省边界革命根据地，后率5军主力到达井冈山，与毛泽东、朱德领导的第4军会师。
1930年6月任第3军团总指挥，率部在平江击败国民党军的进攻，乘胜攻入长沙，占领十日。
1931年11月任中华苏维埃共和国中央革命军事委员会副主席。
1934年1月补选为中共第六届候补中央委员。10月率部参加长征。率3军团积极执行新的作战方针，北渡赤水，回师攻占娄山关，再克遵义城，协同第1军团歼灭大量反扑之敌，取得第一方面军长征后第一个大胜利。
1935年9月，第1、3军合编为陕甘支队，任司令员。10月，与政治委员毛泽东率部到达陕北。同年11月，任西北革命军事委员会副主席、第一方面军司令员。参与指挥直罗镇战役。
1936年1月补选为中共中央政治局委员。2月任中国人民红军抗日先锋军司令员。5月任西北野战军司令员兼政治委员，率部西征宁夏、陇东，迎接第二、第四方面军北上会师。10月底任红军前敌总指挥部总指挥，参与指挥山城堡战役。
抗日战争爆发后，任中共中央军委委员、八路军副总指挥(第18集团军副总司令)。与朱德总司令指挥八路军开赴华北前线，配合国民党军作战，取得平型关等战斗的胜利，
1940年，在华北发动大规模的交通破袭战(史称百团大战)，沉重地打击了日伪军，使全国军民受到鼓舞。1942年8月代理中共中央北方局书记，1943年9月回延安参加整风运动。1945年6月当选为中共第七届中央政治局委员，并被任命为中央军委副主席兼总参谋长，协助毛泽东、朱德指挥对日军的大反攻。
解放战争时期，任西北野战军(后为第一野战军)司令员兼政治委员、中国人民解放军副总司令。1947年3月初，国民党军胡宗南等部20多万人重点进攻陕甘宁解放区时，指挥仅2万余人的陕北部队和后勤机关，同十倍于己的敌军作战。在中共中央和解放军总部主动撤出延安后，根据毛泽东提出的作战方针，采取拖疲敌人的“蘑菇战术”，伺机集中优势兵力各个歼灭敌人，在一个半月内连续于青化砭、羊马河、蟠龙镇三战三捷，后又在沙家店歼敌两个旅。1948年2、3月间率部在宜川、瓦子街一举歼敌五个旅，于4月22日收复延安。1949年在解放军向全国进军的形势下，运用军事进攻与和平谈判方式，解放西北五省。任中共中央西北局第一书记、西北军政委员会主席、西北军区司令员。中华人民共和国成立后，任中央人民政府人民革命军事委员会副主席。
1950年10月，，出任中国人民志愿军司令员兼政治委员，指挥中国人民志愿军，同朝鲜人民军一起，在七个月内连续进行五次战役，把以美国为首的“联合国军”赶回到“三八”线。经过两年边打边谈，于1953年7月签订停战协定。朝鲜民主主义人民共和国最高人民会议常务委员会授予他“朝鲜人民共和国英雄”称号。
1952年4月回国，主持中共中央军委日常工作。从1954年9月起任国务院副总理兼国防部部长和国防委员会副主席。
