外務省廳舍在5月25日空襲中焼毀

戰局惡化後，外務省自1944年起著手疏散文書。同年3月，文書課記錄書庫所藏的條約原本整批移往日本銀行本店地下金庫保管；4月決定將其餘重要記錄疏散至埼玉縣的埼玉銀行幸手支店倉庫及南埼玉郡的民間倉庫，搬運作業自4月26日進行至5月20日。原計畫疏散大部分文書，最後實際運出約3萬3,000冊，正在編綴中的記錄與可廢棄的文書則留置省內書庫。在此之前，1942年1月8日的一場火災已使文書課保管的部分記錄燒失。

1945年5月25日深夜，美軍B-29對東京山手地區實施大規模燒夷彈空襲。據日文維基百科，當晚來襲的B-29約498架，投彈3,262噸，造成3,651人死亡、約16萬5,000戶房屋受損，皇居內的明治宮殿亦被焚毀，霞關政府機關區大部分陷入火海。外務省主樓被大火徹底焚毀，留在廳舍內的約兩萬冊無可替代的外交文件化為灰燼。唯一倖存的是一棟與其他建築物相隔的四層檔案庫（書庫）。此後外務省在臨時場所辦公，包括其他倖存的政府建築內的空間，戰後一度借用日產館等處。

外交記錄的損失並未就此結束。8月7日，省內決定將機密程度高的文書付之一炬，1940年以後的公文書約8,000冊於8月10日至15日間實施「非常燒卻」。佔領開始後，盟軍總部自1945年11月起查閱殘存文書，至1948年共接收條約協定正本102件及記錄、調書等合計1,305冊，部分作為遠東國際軍事法庭的證據使用；這些文書自1950年代起陸續歸還，但仍有一部分未能返還。

因疏散而倖免於難的戰前記錄，如今保存於1971年4月15日開館的外務省外交史料館，並經亞洲歷史資料中心數位公開。現在位於霞關的外務省廳舍則為戰後所建，北廳舍於1960年、中央與南廳舍於1970年落成。