1943年开罗会议中，同盟国确定战后台湾归还中华民国。1944年4月在重庆的中华民国政府，委由中央设计局设立“台湾调查委员会”，并任命陈仪为主任委员。该调查委员会对当时日治下台湾的经济、政治、民生、军事等各方面作出颇为详细的调查。

台湾省行政长官陈仪

战后，设于重庆的国府对于如何接管台湾有两派意见，一派建议完全与进驻其他“沦陷区”相同，设立“台湾省”。另一派则主张在台设立拥有军警等特别公权力的“特别行政区”。最后当时的中华民国总统蒋中正先生採纳陈仪《台湾接管计画纲要》中的意见，设立台湾省行政长官公署。就此，接收台湾就由该公署负责，而全部公署行政人员初定为2000名。

蒋介石政府接收台湾后，原本準备成立台湾省政府，但负责接管台湾的陈仪认为，台湾收复之初应政治与军事相辅治理，因此必须有一权力较大的临时机构作为过渡体制。1945年8月，蒋介石接受了这个建议，成立了台湾省行政长官公署，任命陈仪为台湾省行政长官兼台湾省警备总司令，负责从日本人手中接管台湾，并有权发布命令，集军政、立法大权于一身。1947年2月28日，台湾发生了震惊中外的“二二八事件”。在一片指责声中，陈仪被迫提出辞职。同年4月，蒋介石撤销台湾省行政长官公署，依照《省政府组织法》改制，任命魏道明为台湾省政府主席，同时决定各厅增设副厅长，儘可能起用台籍人士。5月，台湾省政府正式建立。

1945年8月29日，蒋中正任命陈仪为“台湾省行政长官”。

1945年9月1日，国府在重庆宣布成立“台湾省行政长官公署”与“台湾省警备总司令部”，同时任命陈仪兼任“台湾省警备总司令部”的总司令。

1945年9月20日，国府补行发布台湾省行政长官公署组织条例。

1945年9月28日，台湾省行政长官公署成立“前进指挥所”。

昔日台湾省行政长官公署的办公厅舍所在

1945年10月5日，台湾省行政长官公署先遣人员约80多人搭乘美国军机抵达台湾，并将前进指挥所移至台北。

1945年10月24日，台湾省行政长官陈仪与长官公署、警备总司令部干部搭乘军机从上海抵达台北。

1945年10月25日，中国战区台湾省受降典礼于上午十点于台北公会堂（今中山堂）举行。降方为大日本帝国所属第十方面军，而陈仪则代表盟军太平洋战区最高统帅受降。同日，台湾省行政长官公署正式运作，机关处所设于原台北市役所（即现在行政院院址），取代台湾总督府成为台湾最高行政机关。

1946年2月20日，行政长官公署对原台湾总督府完成台湾省军事交接。

1947年2月28日，全台发生动乱，史称二二八事件。

1947年4月22日，行政院会议决定撤销台湾省行政长官公署，改组为台湾省政府。

1947年5月16日，废除撤销台湾省行政长官公署，正式成立台湾省政府，首任主席为魏道明。

行政长官公署系属一种暂时性组织，目的在接管台湾时，求得事权统一，接收完整。因此，其组织沿习原有台湾总督府旧有官署组织之处甚多。其行政公署，除设行政长官外，还有民政处，教育处，会计处，工矿处，农林处，交通处，及台湾省立菸酒公卖局，台湾省立法院等相关组织。

由于台湾光复初期的行政长官公署权力过大，类似日治时期的台湾总督府，因此部份台湾人戏称长官公署为新总督府。