1924年11月，刚刚旅欧归国不久的出任黄埔军校第三任部主任，时年26岁，在人才济济的黄埔军校历任部主任中是最年轻的。在之前，名宿戴季陶、邵元冲都当过几个月的部主任。年轻有为的在黄埔军校期间，以其工作作风和人格魅力，颇得黄埔师生好感，这也为他日后在国共两党多次谈判中担任首席代表奠定了基础。

　　在黄埔军校期间，同时担任广东区委工作。1925年2月，改任广东区委常委，并成立由他兼任部长的广东区委军事部，这是历史上最早设立的军事工作部门。

　　1925年秋，国民军第二次东征时，任第一军部主任、第一军第一师党代表、东征军总部主任等职，参加领导黄埔学生军东征和平叛作战。1926年2月，任国民军第一军副党代表。

　　1926年12月，任。1927年2月，任上海区委特别军委。3月，领导上海工人第三次武装起义，任总指挥。

　　1927年5月25日，中央局在武汉召开常委会议，决定以湖北省委军委为基础，成立中央军事部(又称军人部)，任命为军事部部长，同时担任军事委员会。军委委员有、王一飞、、顾顺章、颜昌颐、贺昌、罗亦农、邓中夏等，主要是进行组织、联络和工作。

　　1927年7月至10月，任前敌委员会。国共合作全面破裂后，29岁的和31岁的贺龙、30岁的叶挺等一班年轻人，干了一件惊天动地的大事，这就是于当年8月1日领导发动了南昌起义。

　　赴南昌领导起义期间，中央军事部部务工作由王一飞负责。同年8月9日，临时中央局会议决定，仍由负责中央军事部，王一飞继续代理部长。

　　1927年11月中央局扩大会议决定，改组中央机关，将中央军事部改为军事科，隶属中央组织局，兼军事科科长。1928年6月，中央局决定重新设立军事部作为全党最高军事指导机关，由杨殷任部长。

　　1929年1月3日，中央局会议又决定:在局下设立，杨殷任军委会主任。1929年8月24日，杨殷等。8月27日，中央局会议决定，由兼中央军事部部长、会主任。

　　1930年2月12日，中央局会议决定，中央军事部与合并，成立新的(简称“”)，作为全国红军的最高指挥机关。新组建的，由、关向应、曾中生等9人组成，直属中央局领导。任，3月初赴苏联，由关向应继任。8月19日回到上海，重任。

　　1931年1月30日，中央临时局会议决定，由、陈郁、、陈赓等7人组成，任，任参谋长。主要负责白区的兵运、情报等军事工作及对苏区军委、各主力红军重大决策的指导，不直接指挥红军的作战行动。

　　1931年11月25日，中华苏维埃国(简称“中革军委”)成立。委员15人，任，王稼蔷（王稼祥）、彭德怀任副。中革军委既是党的军事领导机构，又是中华苏维埃的军事领导机构，也是工农红军最高指挥机关，受、苏区中央局和临时中央领导。1932年6月，中革军委随军到前方，增任为副。苏区中央局决定由负责主持计划并指导关于战争的一切军事、经济、财政、劳动的动员事宜。

　　同年8月初在兴国召开的苏区中央局会议决定，为了加强集体领导，“在前方由王稼祥组成最高军事会议，为，负责前方的行动方针和作战计划。”

　　1932年10月上旬，宁都会议上遭到排挤，被调离红军。执行王明“左”倾线的后方中央局提出“由恩来同志负责战争领导总责，同志回后方负中央工作责任”。10月26日，接替兼任红一方面军总委员。1933年春，和等领导红军粉碎军队对中央苏区的第四次“围剿”。5月，任中国工农红军总委员兼红一方面军总委员。

　　1934年2月3日，中央苏维埃人民委员会公布了中革军委、副，，副、王稼蔷。此后的中革军委实际上由博古代表并与军事顾问李德掌握最高决策权和指挥权。从前方被调回瑞金的主持军委日常工作，虽然保留红军总委员名义，只是协助博古做组织领导工作；仅是形式上的军委和红军总司令。他们并不掌握最高军事指挥权。

　　1934年春，中央处会议决定，由博古、李德、组成“三人团”，成为中央军事领导核心，但起决定作用的，是博古和李德。

　　1935年1月15日至17日，中央局在遵义召开扩大会议(即遵义会议)。会议取消博古、李德的最高军事指挥权，决定仍由中革军委主要负责人、指挥军事，为“下最后决心的负责者”。随后，根据会议，中央常委分工由、负责军事。3月11日，中央决定由、、王稼蔷组成“三人团”（又称“三人小组”或“三人军事小组”），负责指挥全军的军事行动。它实际上是中央的最高军事领导组织，同时也是中革军委的领导核心(有关军事命令和训令仍以中革军委的名义下达)。从此时起，就没有离开中央领导中枢，并开始了与长达40年的紧密合作。

　　1935年8月4日，根据中央局沙窝会议的决定，红一方面军总部重新组成，任红一方面军司令员兼委员。

　　1935年9月12日，中央局在俄界召开扩大会议，决定北上的红一方面军改称中国工农红军陕甘支队，彭德怀任司令员，任委员。由、、王稼蔷、彭德怀、组成“五人团”，即陕甘支队前敌委员会（此时正随左军行动），领导红军工作，主持人。“五人团”是由毛、周、王“三人团”扩大增加原红一方面军主要领导人彭、林组成的，其性质属于中央军事领导集体，亦相当于中革军委的常委。

　　1935年10月19日，中央和中央红军抵达陕北吴起镇，胜利完成长征。11月3日，中央举行局常委会议，决定以中华苏维埃国中央名义，命令于陕北成立西北军事委员会，在“五人团”基础上扩大为九人，任，、彭德怀任副。西北军事委员会虽然冠以“西北”，但并不仅仅是一个区域性的军事领导机构，而是在中央的直接领导下，行使中革军委的职权。

　　1935年11月5日，军委后方办事处在瓦窑堡成立，兼任主任。军委后方办事处实际上就是红军的总后勤部，负责领导军委供给部、卫生部、兵站部、武装动员部、红军学校、红一方面军留守单位和陕北、陕甘(后为陕甘宁)两省军事部以及地方武装，统一领导前后方的供给，红一方面军的后方安全。

　　1936年12月7日，中华苏维埃国中央决定扩大的组织，由23人组成中革军委，以、、、张国焘、彭德怀、贺龙、任弼时等7人组成中革军委团，任，、张国焘任副。

　　1937年7月7日，全国抗日战争全面爆发。为了在新形势下加强党对军队的绝对领导，同年8月22日至25日在洛川召开的中央局扩大会议决定，组成，作为中央领导各抗日根据地武装斗争和军事建设的军事领导机构。其由11人组成：、、、彭德怀、任弼时、、张浩、贺龙、、、。任(亦称)，、任副(亦称副)。

　　1941年1月20日，中央局会议决定：团由、、彭德怀、、王稼祥组成。军委团实际上相当于军委常委，由军委、副组成（王稼祥1938年11月回国后增补为军委副），军委实际工作由团办理。

　　抗日战争时期，国共两党第二次合作。1938年1月，国民军事委员将原大本营第六部、军事委员会政训处、训练总监部政训处合并成立部，任命陈诚为部长，特别邀请任中将副部长。抗战期间，长期在国民所在地武汉、重庆进行党的工作和统一战线工作。

　　1938年2月21日，武汉举办“庆祝空捷国殇”大会。前往致祭，纪念在三天前武汉空战中捐躯的中国飞行员。

　　抗日战争结束后，1946年1月上旬，作为中国代表同代表张群（后为张治中）、美方代表马歇尔组成负责军事调停的三人委员会（又称三人小组），通过谈判，达成停止军事冲突的协议。1946年6月，军队发动全面内战后，率代表团返回延安。

　　由于张治中的军衔是上将，为体现对等原则，在军调三人小组的正式活动中，也穿着佩戴上将军衔的军服。

　　1945年8月15日，日本宣布无条件投降。9月2日，抗日战争胜利结束。为适应新的形势，8月23日，中央局召开扩大会议，组成了新的，称“”(减去“”二字)。新的委员共12人：、、、、彭德怀、陈毅、、贺龙、、、、。，副、、、彭德怀。

　　解放战争初、中期，副彭德怀兼任军委总参谋长。1947年8月，中央决定，彭德怀改任西北野战军司令员兼委员后，不能兼顾军委工作，由军委副代理军委总参谋长。其后，参加领导和指挥了辽沈、平津、淮海三大战役。

　　1947年3月，在蒋介石军队大举进攻陕甘宁边区时，同志跟随毛留在陕北，参与的领导工作。这是同志在陕北神泉堡作总的动员报告。

　　中华人民国成立后，除了任总理、长（兼任），曾担任新成立的隶属于机构的副。

　　1949年10月19日，中央人民人民军事委员会（简称“中革军委”，亦称“”）成立，为，、、、彭德怀、程潜为副，共有28人。由于原全部进入中革军委，、副分别担任中革军委、副，即行停止工作。中革军委的日常工作由主持。从1952年7月起，彭德怀从朝鲜回国接替主持中革军委日常工作。

　　1950年上半年，中国除和外，绝大部分国土解放，大规模战争结束。而此时的军队达到了550万人，军费开支占了国家财政支出的近四成。为适应国家经济建设的需要，中央决定在一年内复员150万人。中央人民政务院、人民军事委员会于1950年6月30日颁发了《关于人民解放军复员工作的决定》，并成立中央复员委员会，由人民军事委员会副任主任、人民军事委员会代总参谋长任副主任，领导全队的复员工作。1951年12月，中央复员委员会改为中央转业建设委员会，兼任主任。此外，1950年10月兼任全国防空筹备委员会主任。1951年1月兼任兵工委员会主任。

　　1954年9月，为了加强党对军事工作的领导，中央决定，重新成立，原中央人民人民军事委员会撤销。

　　此后，未再担任过与军事有直接关系的职务。但是，作为新中国任期最长的总理，他始终把国防和军队建设挂在心上！他是人民爱戴的好总理！