ChatGPT為何遭圍剿？聯合國組織、馬斯克呼籲暫停研發，母公司遭控違反聯邦貿易法

Jim

2023/3/31

內容目錄

暫停研發強於 GPT-4 的 AI 系統六個月

特斯拉創辦人 Elon Musk 聯合多位企業高管、AI 專家簽署公開信，呼籲所有實驗室即刻暫停研發比 GPT-4 更強大的 AI 系統，至少需停止六個月以上。

公開信是由非營利組織 Future of Life 發佈，路透社指出，該組織是由馬斯克基金會、倫敦的 Founders Pledge 集團及矽谷社群基金會所資助。

列出的理由包括：

廣告 - 內文未完請往下捲動

AI 開發已陷入失控的實驗競賽
AI 可能對社會、人類造成深遠風險
沒有人能理解、預測，穩健地掌控 AI 發展
AI 的競爭力可能與日俱增，超越並取代人類？
對於 AI 發展的決策，不應交由未經選舉制度篩選的技術領導者
高級人工智能或為人類史上最大發展，卻沒有相應的資源來進行管理及規劃

綜上所述，其希望若無法停止對 GPT-4 進行下一代開發，那麼政府應介入調停。

讓「AI Summer」走得更遠，而非走進寒冬

信中也提到幾項建議：

建立專責 AI 的監理機構
應究責 AI 所造成的災害
持續監控 AI 系統的運算能力
為 AI 研發提供大量公共資金
AI 實驗室、專家應利用調停期，共同開發 AI 安全協議
安全協議應由獨立外部專家審計、監督

信中指出應有一個資源充足的專責機構，以應對 AI 可能造成的巨大經濟、政治破壞，特別是對民主主義所造成的傷害。

但也強調了並不是要完全停止 AI 研發，而是從危險的實驗競賽中回到更不可預知，但具備緊急暫停功能的黑箱學習模型。

名人評論馬斯克簽署公開信

路透社引援康乃爾大學教授 James Grimmelmann 指出：

鑒於特斯拉不斷地努力抵禦其電動車中帶有 AI 缺陷的責任，馬斯克簽署這份公開信是很虛偽的。喊停是個好想法，但公開信過於含糊，對監管問題不夠嚴肅。

同樣簽署公開信的紐約大學教授 Gary Marcus 表示：

公開信並不完美，但態度是並沒有錯，我們應放慢腳步，直到我們能清楚其後果，大企業對外越來越保密，這讓社會很難抵禦潛在危害。

其他簽署者還包括：

AI 領域先驅 Stuart Russell
AI 領域先驅 Yoshua Bengio
蘋果共同創辦人 Steve Wozniak
Stability AI 執行長 Emad Mostaque
Alphabet 旗下 AI 研究團隊 DeepMind 研究員

Coinbase 執行長 Brian Armstrong 今日 (3/31) 則在推特上持反對立場。

他認為沒有所謂的專家能裁定這件事，設立委員會及官僚體制也解決不了任何問題，AI 與許多技術同樣存在危險，但人類應持續前進，因為 AI 所能給予的是利大於弊，呼籲永遠別讓恐懼阻止進步。

Count me among the people who think this is a bad idea.

There are no “experts” to adjudicate this issue, and many disparate actors will never agree. Committees and bureaucracy won’t solve anything.

As with many technologies, there are dangers, but we should keep marching… https://t.co/iM0sKOVTaw

— Brian Armstrong (@brian_armstrong) March 31, 2023