「AI 可能讓文明連渣都不剩」Vitalik 文章《科技樂觀主義》下對 AI 的擔憂
以太坊共同創辦人 Vitalik Buterin 新文章《我的科技樂觀主義》(My techno-optimism) 中，闡述儘管他知道科技發展帶來負面影響，但總體來看科技發展的益處更多。他認為 AI 發展的風險是值得關注的，AI 可能毀滅文明。並進一步將矽谷盛行的「e/acc」(有效加速主義)，昇華成另一個概念「d/acc」。他認為 21 世紀是人類關鍵的時刻，需要問「正在加速走向什麼？」，以決定未來幾千年命運。
科技進步好處大於壞處
Vitalik Buterin 強力論述了科技進步的益處。他回應了對科技的普遍懷疑，這種懷疑通常源於對環境顧慮，或對貧富差距加大，和權力集中化的恐懼。
他主張，科技的益處，無論是可量化的還是無法量化的，都是實質性的，而且遠超過風險。他提供了科技進步提高預期壽命、減少全球貧困和使日常生活更便利的例子。Vitalik 警告過度糾正和減緩科技進步的危險，指出即使是部分減緩也可能帶來風險。他強調需要考慮哪些特定的科技是有益的，特別是在環境問題上。
廣告 - 內文未完請往下捲動
人類可能成為 AI 的奴隸
Vitalik Buterin 認為人工智慧 (AI) 不僅僅是另一項技術進步，而是代表了一個根本性的轉變。
他將 AI 與其他轉型技術如輪子、印刷機和飛機進行比較，並認識到它們對社會的重大影響。然而，AI 作為一種新型快速發展的智慧，有可能超越人類的心智能力，成為地球上的主導物種。
Vitalik 強調 AI 所帶來的存在風險，他認為超智能 AI 可能導致人類滅絕，一個文明的殘餘也不會存活下來。他指出了「工具趨同」(instrumental convergence) 的概念，即 AI 在追求資源和自我保護時可能威脅到人類。儘管努力使 AI 的目標與人類福祉保持一致，但 AI 在未預見情況下反應的不可預測性仍是一大挑戰。
MIRI 研究員 Rob Bensinger 統計不同人對「人工智慧殺死所有人」或「做出幾乎同樣糟糕的事情」的估計，儘管是基於粗略估計，但相當多人認為機率超過 25%：
實際上根據 2022 年機器學習的研究：「平均而言，研究人員認為人工智慧有 5-10% 的可能性會真正殺死我們所有人」
討論還深入探討了科幻小說中 AI 的描繪，特別是伊恩·班克斯的文化系列。在這些故事中，AI 和人類共存，但被稱為「心智」的 AI 握有實際權力。這種描述引發了關於人類在超智能 AI 主導世界中真實角色的問題，暗示人類可能成為僅僅的「寵物」或棋子。
Vitalik 將這種擔憂延伸到《星艦奇航記》(Star Trek)中描繪的情境，其中 AI 從屬於人類。他認為這種權力動態不穩定且可能是過渡性的，導致未來 AI 作為更智能和更了解情況的存在，自然會掌控一切，使人類成為從屬角色。
總的來說，Vitalik 強調在開發和管理 AI 時需要獨特的謹慎和考慮，因為它有潛力徹底改變人類狀態和社會的整體結構。
