一、解嚴之前的行政院
民國36年至76年間，我國雖有民主憲政的推動，但因應戡亂及戒嚴令而制定的「動員戡亂時期臨時條款」，呈現出相當特殊的政治經濟體制。當時行政院的組織結構與職能分工的調整或變革，深受此政經體制的影響。
民國36年前後，由於國共內戰、政治紛擾，當時行政院依憲法作為國家最高行政機關，雖於民國36年3月制定公布「行政院組織法」，期間並經3度修正組織架構與相關部會名稱，然均因局勢動盪並未落實運作。民國38年政府遷臺後，為推動行政改革以提升行政效能，對組織架構的調整或變革的態度採積極而主動的做法；在維持行政院8部2會的體制架構下，亦考量實際施政需要，以設置委員會的方式，恢復國家應有的政府組織架構與布局。

民國44年，為了因應時局變化，蔣中正總統要求行政院針對所屬中央行政機關的組織權責等問題，進行研討改進；行政院即成立行政院暨所屬機關組織權責研討委員會，並由行政院俞鴻鈞院長指派黃季陸政務委員擔任主任委員(亦稱黃季陸委員會)；該委員會由20位委員組成，分一般行政、財經、內政、外交、文教、司法等6組，最後在民國46年6月底，提出包括47項建議的調查報告，影響日後的經濟發展與文官體制之建置。

民國46年9月，考試院王雲五副院長及財政部嚴家淦部長赴美出席聯合國大會時，蔣中正總統指示王雲五副院長順道研究美國胡佛委員會之功能與任務；民國47年3月，總統府臨時行政改革委員會成立，王雲五副院長擔任主任委員(亦稱王雲五委員會)。同年9月，該委員會結束其研議工作，共提出88項建議案。為推動前開建議案之落實，行政院於民國48年1月14日成立行政改革建議案研議小組委員會，由行政院王雲五副院長兼任召集人。民國40至50年代間，為因應時代需求，行政院陸續增設行政院青年輔導委員會、行政院國軍退除役官兵輔導委員會、行政院國家科學委員會、行政院研究發展考核委員會、行政院原子能委員會等，並設置行政院人事行政局、行政院主計處及行政院衛生署等部會級機關。

民國61年6月，行政院蔣經國院長，為實施行政改革、推動系列重大經濟基礎建設，針對行政院各機關組織功能進行規劃，接續於民國63年召開行政機關組織通則草案研究工作小組會議。另外，在政務需求下，民國67年2月設置行政院經濟建設委員會；民國68年11月，將中央銀行改隸行政院；民國69年6月，依「公職人員選舉罷免法」，設置中央選舉委員會，同時，將司法行政部改為法務部；民國70年11月，設置行政院文化建設委員會，民國73年9月設置行政院農業委員會，民國75年12月，依「國立故宮博物院組織條例」，將故宮博物院納入行政院。

二、民主化下的行政院
民國76年7月15日，政府宣布解除戒嚴，確保言論、出版、集會、結社、遊行等基本人權，奠定臺灣民主政治良性發展的基礎；同年11月，政府亦開放民眾赴大陸探親，開啟兩岸關係發展的新里程。這波民主化的潮流，大概涵蓋到民國85年總統直選之前的階段，期間公民社會的活力澎湃洶湧，特別表現在社會運動種類、頻率與規模上的快速擴張，包括勞工、農民、婦女、老兵、原住民、消費者，及環保等近20類。如此民主化的趨勢對行政院組織造成衝擊與挑戰，最明顯的表徵即是政府開始籌劃大規模調整行政院的組織結構。

民國76年7月，行政院俞國華院長面對解除戒嚴之後，民主化蓬勃發展之情勢，指示成立行政院組織法研究修正專案小組，此乃行政院第一次有系統地全面研修行政院組織法。民國77年10月，俞院長提出「行政院組織法」修正草案，採設12部、7會、3總署、1總處、1行及1院之組織架構，函送立法院審議。民國79年3月李登輝先生當選中華民國第8任總統，同時臺北發生3月學運，提出廢止「動員戡亂時期臨時條款」，並召開國是會議等訴求。

民國79年6月，行政院郝柏村院長基於客觀環境變遷，及配合憲法增修結果，函請立法院撤回民國77年10月「行政院組織法」修正草案，並於民國81年3月請行政院施啟揚副院長召集專案小組，再次研修「行政院組織法」，期向立法院提出新修正草案。此階段行政院增設諸多部會，絕大部分係為因應民主化過程中的社會訴求，尤其是社會運動所展現的呼聲。民國76年8月行政院依「行政院組織法」第6條設置行政院勞工委員會；同年8月行政院衛生署環境保護局升格為行政院環境保護署。

民國80年1月行政院依「臺灣地區與大陸地區人民關係條例」第4條，設置行政院大陸委員會；4月30日李登輝總統並明令宣告動員戡亂時期於5月1日零時終止。民國81年1月依「公平交易法」第25條及29條，設置行政院公平交易委員會；民國83年7月依「消費者保護法」第40條，設行政院消費者保護委員會；民國84年7月設行政院公共工程委員會，民國85年12月設行政院原住民族委員會。此外，依憲法增修條文規定，行政院人事行政局於民國82年12月完成組織法制化。

三、全球化下的行政院
由於資訊通信科技的運用與發展，1990年代後全球化潮流加速擴張，為因應效率與國際競爭力的要求，普遍促成各國著手政府改造工程。例如：美國政府推動新政府運動、英國政府繼推動續階計畫之後，於1994年推出文官的永續與改革政策白皮書、新加坡政府於1995年推出邁向21世紀公共服務革新計畫、日本政府於1998年3月向國會提出行政機關改革基本法案，將當時1府21省廳精簡為1府12省廳之體制，並自2001年實施。因應世界局勢，民國85年12月，李登輝總統邀請政黨及產、政、學各界菁英170人召開國家發展會議，在經濟發展議題的總結報告中，強調推動政府再造工程，及提出精簡合理的組織架構、健全的組織規章、現代化的文官制度等訴求。為依據會議共識及民國86年修憲結果，調整臺灣省政府功能、業務與組織，於民國87年訂頒「臺灣省政府功能業務與組織調整暫行條例」，裁撤臺灣省議會另新成立臺灣省諮議會；臺灣省政府與臺灣省諮議會改制為行政院的派出機關，並自民國88年7月起進行臺灣省政府功能業務與組織調整作業。

另為賡續推動行政院組織改造，民國87年1月，行政院會議通過「政府再造綱領」，並成立政府再造諮詢委員會，由行政院蕭萬長院長遴聘企業界人士及學者專家擔任諮詢顧問，提供再造建言；幕僚作業則成立組織再造、人力及服務再造、法制再造3個工作小組，分別由行政院研究發展考核委員會、行政院人事行政局及行政院經濟建設委員會主辦。民國87年5月間完成「中央政府機關組織基準法」與「中央政府機關總員額法」兩草案擬訂並分送立法院審議。惟次年921大地震發生，政府致力於救災，組改議題再度擱置。民國86年7月至民國90年6月間，行政院回應各界訴求，陸續設置行政院體育委員會、行政院海岸巡防署及行政院客家委員會等部會。

民國90年10月，陳水扁總統成立政府改造委員會，規劃包括行政院組織調整等改造方案。民國91年4月行政院陸續送出「行政院組織法」修正草案、「中央政府機關組織基準法」、「中央政府機關總員額法」、「行政院組織調整員工權益保障方案」及「行政院功能業務與組織調整暫行條例」等5項組改法案到立法院審議，並於同年5月成立行政院組織改造推動委員會，以去任務化、地方化、委外化、法人化等4化為中心，持續檢討各機關組織業務，並於民國92年4月9日由行政院及考試院會銜將「行政法人法」草案送請立法院審議。第1個行政法人國立中正文化中心亦於民國93年3月正式運作。

民國93年6月23日「中央行政機關組織基準法」終經立法院完成三讀審議，民國95年2月國家通訊傳播委員會設置，是第1個依基準法設置的獨立機關。「行政院組織法」修正草案則因立法院會期屆期不續審等因素，分別於民國93年9月、民國94年3月及民國97年2月3度函送立法院審議，均未能順利通過，惟因應全球化下而調整的行政院組織改革已跨出穩健的一步。

四、創新變革的行政院
為回應政治民主化、經濟自由化、社會多元化，以及快速變遷的全球化趨勢，有關政府的角色與職能，及其組織結構與分工，一直受到社會各界及政府本身的廣泛重視與反省。民國97年3月馬英九先生當選中華民國第12任總統，次年元旦即宣示打造一個精簡、彈性、效能的政府，以大幅提升國家的競爭力。民國97年7月行政院改組行政院組織改造推動小組，重新檢討舊有組改法案，並於民國98年4月核定新版草案。民國99年1月12及13日，立法院三讀通過「行政院組織法」、「中央政府機關總員額法」、「行政院功能業務與組織調整暫行條例」及「中央行政機關組織基準法」修正案。民國100年4月「行政法人法」立法通過。本次立法的結果延續歷年推行精實、彈性、效能之改革原則，其組織體系與職能分工除維繫政府核心職能外，同時強調建構處理活力多元社會的新能力，包含重視領航、協調與統合等功能，以迎向民主化、資訊化與全球化的年代。

為達成組織精實的目的，行政院將其37個2級機關裁併成29個，包含14部、8會、3獨立機關、1行、1院及2總處，另將約280個3級機關（構）簡併成70個署局及39個機構或重定其層級。其次，為了體現彈性的原則，亦分別制定「中央行政機關組織基準法」、「中央政府機關總員額法」，及「行政法人法」；前兩法的立法目的，都在追求組織與員額編制上的鬆綁與彈性運用，而後者更旨在簡化政府職能，並引進民間參與及市場機制。這些作為，都是希望在全球化趨勢下，人流、物流、技術流、資金流與資訊流等複雜交會且瞬息萬變的環境中，強化政府政策制訂與執行質量，促進其應變能力，並進而提升我國的國際競爭力。

此外，為落實組織與員額編制的鬆綁與彈性運用，行政院必須高度仰賴人事與主計單位持續對整體人力與經費進行評估與調整，因此設置行政院主計總處及行政院人事行政總處。相對地，為了強化領航的職能，行政院亦合併行政院研究發展考核委員會和行政院經濟建設委員會而為國家發展委員會，以統理涉及國家整體生存和長期發展的施政決策；這也是行政院組織改造，在強調精實、彈性之外，還希望確保其效能的必要步驟。歷經20餘年的行政院組織改造工程至此終於有了嶄新的開始，而能朝向優質政府大步邁進。