AI 技術發展危險性堪比核武！聯合國表達嚴重擔憂

聯合國在昨日（12）所發佈的一份報告中指出，當前科技的快速進步，已加劇了虛假資訊傳遞的風險，包括人工智能（AI）的生成，都正在對各種媒體資訊的完整及正確性構成威脅，嚴重影響社會安全。其中特別點名 deepfakes。

AI 技術結合網路，將使得造假資訊迅速流竄

聯合國在報告中聲稱，人工智能生成的假消息、仇恨言論或恐怖主義內容，將以過於逼真而使人深信不疑的方式呈現給觀眾，並在各媒體或社群網路上傳遞。今年 5 月，由 AI 生成、有關五角大廈附近發生爆炸的圖片廣傳，多家新聞報導並引發恐慌，標普 500 指數也因此短暫下跌。

同樣在上個月，加密貨幣交易所幣安的首席安全主管 Jimmy Su 就曾提及：使用 deepfake 工具偽造他人身份錄製影片，以執行交易所身份驗證（KYC）流程的詐欺犯罪者持續增加，驗證者將很難分辨其真偽。

有鑑於此，聯合國秘書長 António Guterres 表示，有許多防範及監管措施正在研討中，包括歐盟研擬中的人工智能法案，以及秋季的英國人工智能安全峰會。

AI = 核武器？

根據 Magazine by Cointelegraph 專題報導，其將 AI 技術與核武器等威脅進行比較，並引用近期由數百名科學家簽署、人工智慧安全中心（CAIS）發出的警告：

人工智能可能衍伸的人類滅絕風險，應該等同於流行病及核戰爭等其他攸關人類生存的威脅，一起列為全球性的優先解決事項。

文章中提到一個有趣的觀點，OpenAI CEO Sam Altman 推動建立一個如同國際原子能總署（IAEA）的全球性機構來監督 AI 技術，或許是藉由誇大其危險性，來讓當前具領先優勢的 AI 公司能夠實施專制控制並扼殺其他競爭者。

AI 發展爆炸的真正原因

過去一年，AI 應用爆發性的成長眾所皆知，從文案、照片影片及歌曲生成，到語音及 deepfake，世界各地的民眾都在使用相關技術。

人道技術及地球物種中心的聯合創辦人 Aza Raskin 對此現象做了簡單解釋，同時強調深度機器學習模型出現的突破：「你可以將一切都視為語言、視為能以線性方式排列的圖像塊，接著你就能預測接下來最有可能出現的事物。」

圖像能被視為一種語言，聲音能夠分解成更小的單元，只要能夠被預測，它就變成了一種語言。包括 fMRI 數據及 DNA。也因此你眼前所見，「學習並預測」都將使得 AI 技術的進步立即翻倍增強。