1951年12月，政务院作出《关于调整机构紧缩编制的决定（草案）》，进行了建国以来第一次精兵简政工作。其主要内容有：（1）调整紧缩上层，合理充实下层；（2）合并分工不清和性质相近的机构；（3）精简机构，减少层次；（4）明确规定干部与勤杂人员的比例；（5）要求划清楚企业、事业机构和行政机构的编制和开支；（6）严格编制纪律。这次机构改革以加强中央集权为中心内容。到1953年底，政务院工作部门增加到42个。
1954年，随着中国政权组织形式的确定和各级政权机关的建立，从当年底开始，用了一年多的时间，对中央和地方各级机关进行了一次较大规模的精简。中央一级机关的精简包括：（1）在划清业务范围的基础上，调整精简了机构，减少了层次；（2）各级机关根据业务需要，紧缩了编制，明确了新的编制方案；（3）妥善安置精简下来的干部。地方各级机关也进行了精简，专员公署和区公所分别是省、县政府的派出机关，精简比例较大。以后，随依法成立的国务院开始增设机构，到1956年，机构总数达81个，形成了建国以来政府机构数量的第一次高峰。 1960年到1964年，为了贯彻国民经济调整的方针，进行了建国后的第三次较大机构改革。
一是先后在中央和地方各级机关进行了两次比较集中的干部精简运动。第一次是1960年7月至1961年9月，主要集中在中央一级机关。这次干部精简以事业单位为重点，对行政部门和事业单位同时进行精简。经过一年多的努力，在机构方面，中央各部门司局级机关减少15%，事业单位减少26%；行政机关精简1．6万余人，事业单位精简6．5万余人。第二次精简从1962年2月至1964年，范围包括中央和地方各级机关。经过近两年时间的努力，中央国家机关在1961年精简的基础上，又精简了1万人。全国共精简81万人。精简下来的干部大多数充实到基层和生产第一线。
二是中央收回五十年代后期下放给地方的权力并恢复被撤销的机构，到1965年底，国务院的机构数达到79个，为建国后的第二次高峰。 党的十一届三中全会以后，中国进入了一个新的发展时期，开始了经济体制改革，对外开放。与此相适应，从1982年开始，首先从国务院做起，自上而下地展开各级机构改革，这次改革历时3年之久，范围包括各级党政机关，是建国以来规模较大、目的性较强的一次建设和完善各级机关的改革。这次改革不仅以精兵简政为原则，而且注意到了经济体制改革的进一步发展可能对政府机构设置提出的新要求，力求使机构调整为经济体制改革的深化提供有利条件，较大幅度地撤并了经济管理部门，并将其中一些条件成熟的单位改革成了经济组织。
1981年，国务院的工作部门有100个，达到建国以来的最高峰。臃肿的管理机构已不能适应改革开放和经济社会发展的需要，亟待改革。在同年12月五届全国人大四次会议的政府工作报告中，国务院决定，从国务院各部门首先做起进行机构改革，限期完成。
1982年3月8日，五届全国人大常委会第二十二次会议通过了关于国务院机构改革问题的决议。这次改革明确规定了各级各部的职数、年龄和文化结构，减少了副职，提高了素质；在精简机构方面，国务院各部门从100个减为61个，人员编制从原来的5．1万人减为3万人。
这次改革，在领导班子方面，明确规定了各级各部的职数、年龄和文化结构，减少了副职，提高了素质；在精简机构方面，国务院各部委、直属机构、办事机构从100个减为61个；省、自治区政府工作部门从50～60个减为30～40个；直辖市政府机构稍多于省政府工作部门；城市政府机构从50～60个减为45个左右；行署办事机构从40个左右减为30个左右，县政府部门从40多个减为25个左右；在人员编制方面，国务院各部门从原来的5．1万人减为3万人；省、自治区、直辖市党政机关人员从18万人减为12万余人。市县机关工作人员约减20%；地区机关精简幅度更大一些。改革之后，国务院各部委正副职是一正二副或者一正四副，领导班子平均年龄也有所下降，部委平均年龄由64岁降到60岁，局级平均年龄由58岁降到54岁。 这次改革历时三年，是建国以来规模较大、目的性较强的一次建设和完善行政体制的努力。通过精简各级领导班子和废除领导职务终身制，加快了干部队伍的年轻化，是一个很大的突破。但是，由于当时经济体制改革的重点在农村，对于行政管理没有提出全面变革的要求，所以政府机构和人员都没有真正减下来。这次改革是一次有益的探索，加快了干部队伍的年轻化，但没有触动高度集中的计划经济管理体制，没有实现政府职能的转变。
1982年的政府机构改革，其历史性进步可用三句话来概括：一是开始废除领导干部职务终身制；二是精简了各级领导班子；三是加快了干部队伍年轻化建设步伐。 1998年3月10日，九届全国人大一次会议审议通过了《关于国务院机构改革方案的决定》。改革的目标是：建立办事高效、运转协调、行为规范的政府行政管理体系，完善国家公务员制度，建设高素质的专业化行政管理队伍，逐步建立适应社会主义市场经济体制的有中国特色的政府行政管理体制。
改革的原则是：按照社会主义市场经济的要求，转变政府职能，实现政企分开；按照精简、统一、效能的原则，调整政府组织结构，实行精兵简政；按照权责一致的原则，调整政府部门的职责权限，明确划分部门之间职责分工，完善行政运行机制；按照依法治国、依法行政的要求，加强行政体系的法制建设。
1998年改革的目的与目标高度协调。推进社会主义市场经济发展是目的，尽快结束专业经济部门直接管理企业的体制是目标。1998年改革历史性的进步是，政府职能转变有了重大进展，其突出体现是撤销了几乎所有的工业专业经济部门，共10个：电力工业部、煤炭工业部、冶金工业部、机械工业部、电子工业部、化学工业部、地质矿产部、林业部、中国轻工业总会、中国纺织总会。这样，政企不分的组织基础在很大程度上得以消除。众多的工业专业经济部门是计划经济时代的产物，在当时的历史条件下，这些工业专业经济部门可以说是资源配置的载体，是落实经济计划的依托。但是在建立社会主义市场经济体制的过程中，这类部门的存在不利于充分发挥市场在资源配置中的基础作用，不利于充分发挥企业的微观经济主体地位。在一定意义上说，撤销工业专业经济部门就是取消了国家与企业之间的“二道贩子”，消除了政企不分的组织堡垒。
根据改革方案，国务院不再保留的有15个部、委。包括：电力工业部、煤炭工业部、冶金工业部、机械工业部、电子工业部、化学工业部、国内贸易部、邮电部、劳动部、广播电影电视部、地质矿产部、林业部、国家体育运动委员会、国防科学技术工业委员会（组建新的国防科学技术工业委员会，将原国防科工委管理国防工业的职能、国家计委国防司的职能以及各军工总公司承担的政府职能，统归新组建的国防科学技术工业委员会管理）、国家经济体制改革委员会（为了加强国务院对经济体制改革工作的领导，国家经济体制改革委员会改为国务院高层次的议事机构，总理兼主任，有关部长任成员，不再列入国务院组成部门序列）。
新组建的有4个部、委：国防科学技术工业委员会、信息产业部、劳动和社会保障部、国土资源部。
更名的有3个部、委：国家计划委员会更名为国家发展计划委员会；科学技术委员会更名为科学技术部；国家教育委员会更名为教育部。
保留的有22个部、委、行、署：外交部、国防部、国家经济贸易委员会、民族事务委员会、公安部、国家安全部、监察部、民政部、司法部、财政部、人事部、建设部、铁道部、交通部、水利部、农业部、对外贸易经济合作部、文化部、卫生部、国家计划生育委员会、中国人民银行、审计署。
改革后除国务院办公厅外，国务院组成部门由原有的40个减少到29个。包括国家政务部门12个：外交部、国防部、文化部、卫生部、国家计划生育委员会、国家民族事务委员会、民政部、司法部、公安部、国家安全部、监察部、审计署；宏观调控部门4个：国家发展计划委员会、国家经济贸易委员会、财政部、中国人民银行；专业经济管理部门8个：建设部、铁道部、交通部、信息产业部、水利部、农业部、对外贸易经济合作部、国防科学技术工业委员会；教育科技文化、社会保障和资源管理部门5个：教育部、科学技术部、人事部、劳动和社会保障部、国土资源部。
从1998年开始，国务院机构改革首先进行，随后中共中央各部门和其它国家机关及群众团体的机构改革陆续展开；1999年以后，省级政府和党委的机构改革分别展开；2000年，市县乡机构改革全面启动。截至2002年6月，经过四年半的机构改革，全国各级党政群机关共精简行政编制115万人。 2003年的政府机构改革，是在加入世贸组织的大背景之下进行的。3月6日，国务院机构改革方案提请十届全国人大一次会议审议，启动了改革开放以来的第五次大规模的机构改革。3月10日，十届全国人大一次会议第三次全体会议通过了关于国务院机构改革方案的决定。方案特别提出了“决策、执行、监督”三权相协调的要求。除国务院办公厅外，国务院29个组成部门经过改革调整为28个，不再保留国家经贸委和外经贸部，其职能并入新组建的商务部。
改革的目的是：进一步转变政府职能，改进管理方式，推进电子政务，提高行政效率，降低行政成本。改革目标是，逐步形成行为规范、运转协调、公正透明、廉洁高效的行政管理体制。改革的重点是，深化国有资产管理体制改革，完善宏观调控体系，健全金融监管体制，继续推进流通体制改革，加强食品安全和安全生产监管体制建设。这次改革重大的历史进步，在于抓住当时社会经济发展阶段的突出问题，进一步转变政府职能。
根据方案，国家发展计划委员会改组为国家发展和改革委员会（简称“发展改革委”），其任务是研究拟订经济和社会发展政策，进行总量平衡，指导总体经济体制改革；设立国务院国有资产监督管理委员会（简称“国资委”），以指导推进国有企业改革和重组；设立中国银行业监督管理委员会（简称“银监会”），以加强金融监管，确保金融机构安全、稳健、高效运行；组建商务部，推进流通体制改革；国家药品监督管理局重组为国家食品药品监督管理局，原属于国家经贸委管理的国家安全生产监督管理局改为国务院直属机构，同时，将国家计划生育委员会更名为国家人口和计划生育委员会。 2008年3月15日，十一届全国人大一次会议听取了华建敏关于国务院机构改革方案的说明，3月15日，会议通过关于国务院机构改革方案的决定，批准了这个方案。
国务院机构改革是深化行政管理体制改革的重要组成部分。按照精简统一效能的原则和决策权、执行权、监督权既相互制约又相互协调的要求，着力优化组织结构，规范机构设置，完善运行机制，为全面建设小康社会提供组织保障。深化行政管理体制改革的总体目标是，到2020年建立起比较完善的中国特色社会主义行政管理体制。
国务院机构改革方案主要内容包括：（一）合理配置宏观调控部门职能。国家发展和改革委员会要进一步转变职能，减少微观管理事务和具体审批事项，集中精力抓好宏观调控。财政部要改革完善预算和税政管理，健全中央和地方财力与事权相匹配的体制，完善公共财政体系。中国人民银行要进一步健全货币政策体系，加强与金融监管部门的统筹协调，维护国家金融安全。国家发展和改革委员会、财政部、中国人民银行等部门要建立健全协调机制，形成更加完善的宏观调控体系。（二）加强能源管理机构。设立高层次议事协调机构国家能源委员会。组建国家能源局，由国家发展和改革委员会管理。将国家发展和改革委员会的能源行业管理有关职责及机构，与国家能源领导小组办公室的职责、国防科学技术工业委员会的核电管理职责进行整合，划入该局。国家能源委员会办公室的工作由国家能源局承担。不再保留国家能源领导小组及其办事机构。（三）组建工业和信息化部。将国家发展和改革委员会的工业行业管理有关职责，国防科学技术工业委员会核电管理以外的职责，信息产业部和国务院信息化工作办公室的职责，整合划入工业和信息化部。组建国家国防科技工业局，由工业和信息化部管理。国家烟草专卖局改由工业和信息化部管理。不再保留国防科学技术工业委员会、信息产业部、国务院信息化工作办公室。（四）组建交通运输部。将交通部、中国民用航空总局的职责，建设部的指导城市客运职责，整合划入交通运输部。组建国家民用航空局，由交通运输部管理。国家邮政局改由交通运输部管理。保留铁道部，继续推进改革。不再保留交通部、中国民用航空总局。（五）组建人力资源和社会保障部。将人事部、劳动和社会保障部的职责整合划入人力资源和社会保障部。组建国家公务员局，由人力资源和社会保障部管理。不再保留人事部、劳动和社会保障部。（六）组建环境保护部。不再保留国家环境保护总局。（七）组建住房和城乡建设部。不再保留建设部。（八）国家食品药品监督管理局改由卫生部管理。明确卫生部承担食品安全综合协调、组织查处食品安全重大事故的责任。
改革后，除国务院办公厅外，国务院组成部门设置27个。这次国务院改革涉及调整变动的机构共15个，正部级机构减少4个。
这次改革突出了三个重点：一是加强和改善宏观调控，促进科学发展；二是着眼于保障和改善民生，加强社会管理和公共服务；三是按照探索职能有机统一的大部门体制要求，对一些职能相近的部门进行整合，实行综合设置，理顺部门职责关系。 2008年国务院机构改革情况一览表改革前改革后改革前改革后外交部外交部监察部监察部国防部国防部民政部民政部国家发展和改革委员会国家发展和改革委员会财政部财政部教育部教育部公安部公安部科学技术部科学技术部国家民族事务委员会国家民族事务委员会水利部水利部国家安全部国家安全部农业部农业部司法部司法部商务部商务部国土资源部国土资源部文化部文化部建设部（裁撤）住房和城乡建设
部 （新建） 卫生部卫生部交通部（裁撤）交通运输部（新建）国家人口和计划生育委员会国家人口和计划生育委员会信息产业部
（裁撤） 工业和信息化部
（新建） 中国人民银行中国人民银行人事部（裁撤） 人力资源和社会保障部
（新建） 审计署审计署劳动保障部
（裁撤） 环境保护部（新建）铁道部铁道部国防科工委
（裁撤） - 2013年2月28日，全会通过的《国务院机构改革和职能转变方案》，贯彻党的十八大关于建立中国特色社会主义行政体制目标的要求，以职能转变为核心，继续简政放权、推进机构改革、完善制度机制、提高行政效能，稳步推进大部门制改革，对减少和下放投资审批事项、减少和下放生产经营活动审批事项、减少资质资格许可和认定、减少专项转移支付和收费、减少部门职责交叉和分散、改革工商登记制度、改革社会组织管理制度、改善和加强宏观管理、加强基础性制度建设、加强依法行政等作出重大部署。 两会新华网快讯：2013年3月14日，十二届全国人大一次会议表决通过了关于国务院机构改革和职能转变方案的决定，批准了这个方案。
这次国务院机构改革，重点围绕转变职能和理顺职责关系，稳步推进大部门制改革，实行铁路政企分开，整合加强卫生和计划生育、食品药品、新闻出版和广播电影电视、海洋、能源管理机构。
（一）实行铁路政企分开。将铁道部拟订铁路发展规划和政策的行政职责划入交通运输部。组建国家铁路局，由交通运输部管理，承担铁道部的其他行政职责。组建中国铁路总公司，承担铁道部的企业职责。
不再保留铁道部。
（二）组建国家卫生和计划生育委员会。
将国家人口和计划生育委员会的研究拟订人口发展战略、规划及人口政策职责划入国家发展和改革委员会。
国家中医药管理局由国家卫生和计划生育委员会管理。
不再保留卫生部、国家人口和计划生育委员会。
（三）组建国家食品药品监督管理总局。
保留国务院食品安全委员会，具体工作由国家食品药品监督管理总局承担。国家食品药品监督管理总局加挂国务院食品安全委员会办公室牌子。
新组建的国家卫生和计划生育委员会负责食品安全风险评估和食品安全标准制定。农业部负责农产品质量安全监督管理。将商务部的生猪定点屠宰监督管理职责划入农业部。
不再保留国家食品药品监督管理局和单设的国务院食品安全委员会办公室。
（四）组建国家新闻出版广电总局。
不再保留国家广播电影电视总局、国家新闻出版总署。
（五）重新组建国家海洋局。
为加强海洋事务的统筹规划和综合协调，设立高层次议事协调机构国家海洋委员会，负责研究制定国家海洋发展战略，统筹协调海洋重大事项。国家海洋委员会的具体工作由国家海洋局承担。为推进海上统一执法，提高执法效能，国家海洋局以中国海警局名义开展海上维权执法，接受公安部业务指导。
（六）重新组建国家能源局。
不再保留国家电力监管委员会
这次改革，国务院正部级机构减少4个，其中组成部门减少2个，副部级机构增减相抵数量不变。改革后，除国务院办公厅外，国务院设置组成部门25个.
