1982年7月，中研院舉行第十五次院士會議，經浦大邦教授的努力與數理組李遠哲等十五位院士連署建議成立原子與分子科學研究所，經全體院士一致同意，並經中研院提報第十一屆評議會第六次會議決議通過後，乃報請總統府秘書長轉呈核准。
1982年9月23日奉准先行設立籌備處，同年中研院聘請國內外有關專家學者吳大猷、李遠哲、浦大邦、張昭鼎、張圖南、湯光天、閰愛德等七位先生組成設所諮詢委員會，由李遠哲先生擔任主任委員；同年12月間經設所諮詢委員會第一次會議決議，由張昭鼎先生擔任籌備處主任，展開籌備工作。
策劃籌建研究大樓之初，基於原分所設所目的以探討原子、分子的結構及碰撞反應過程中各種動力參數的變化，此等基礎科學的研究範疇可與大學的物理系、化學系、電機系等相關科系合作，加強學術交流，建立群體研究的機會，遂決定將所址設於國立台灣大學校總區內。
1986年7月大樓正式啟用，相關研究室、計算機室、電子、機械及玻璃工場乃先後建立。圖書資料室則與台大化學系及國科會化學中心圖書館合併為聯合圖書館，期能建立更完善的資訊來源。另外，為落實籌備處研究工作的推動以及因應未來雷射光電技術的發展，復於1991年提出雷射中心的發展計畫，於研究大樓側緣擴建成立雷射中心，計地下壹層及地上五層的建築。新大樓工程並於1994年7月竣工，提供了更大的實驗室空間。
1993年4月張昭鼎先生不幸病逝，同年7月由林聖賢先生接任籌備處主任。在經過全所同仁幾年來的共同努力，籌備處研究人力、設備等軟硬體設施已略具規模。
1993年7月，諮詢委員會鑑於籌備處的規模，已具中研院原設所之構想，委員決議成立六個研究群：理論研究與計算、氣態動力、光化學與光譜學、表面科學、凝態動力及雷射光電技術發展等六個群組，並呈報推薦林聖賢先生為主任，領導研究工作及推動正式成所計劃。
1995年4月原分所正式成立，由林聖賢先生擔任第一和第二任所長。
2001年10月劉國平先生擔任第三任所長。
2004年10月由王玉麟先生接任第四任及第五任所長之職。
2006年10月，李遠哲院士卸任院長職務後，回到原分所擔任特聘研究員。
2011年1月由周美吟女士接任所長。