離開Google是為了說真話,AI教父:普丁拿去用怎麼辦?

Vanessa
分享
離開Google是為了說真話,AI教父:普丁拿去用怎麼辦?

曾獲圖靈獎並被譽為 AI 教父的傑佛瑞・辛頓(英文:Geoffrey Hinton)博士,5 月 2 日接受紐約時報訪談時,坦言對自己的工作感到後悔,並發表聲明宣布離開 Google。他還透露離開的原因除了年事已高外,是因為他希望此舉可以作為一個警惕:警告政府、企業及社會應正視 AI 將帶來的危險性,並儘速加強 AI 的安全性及監管。

AI 教父是誰?

有人工智慧 AI 教父之稱的計算機學與心理學家傑佛瑞・辛頓,是類神經網路領域的重要人物。他於「反向傳播算法」、「對比散度算法」等方面的貢獻,替現今 AI 技術的發展奠定了基礎。

於 2013 年加入Google,並創辦了 DNNresearch 公司,不久之後被 Google 併購。並於 2018 年時,與約書亞·班吉歐(英文:Yoshua Bengio)和楊立昆一同被授予圖靈獎,以表彰他們在深度學習方面的卓越貢獻

廣告 - 內文未完請往下捲動

AI 教父:智能與生物系統差異巨大,AI 所知已超越人類

而後在接受 BBC 採訪時,他表示自己近期得出了一個結論:

「我們正在開發的智能,與我們所擁有的智能非常不同。我們是生物系統,而它們是數位系統。兩者最大的不同之處在於 — 數位系統具有許多相同的權重集合(set of weights),和相同的世界模型副本(model of the world)」

AI 聊天機器人(AI Chatbot)之所以比人類更聰明,是因為它們可以與自己的「同類」即時交流學習。就像一萬個人一起學習,當其中一個人學到了新知識,其他人也可以同步獲得相同的知識。這使得 AI 聊天機器人能夠獨立地學習並實時分享知識,進而不斷提升自己的能力。

AI 教父:普丁拿去用怎麼辦?

從 OpenAI 的開發的 ChatGPT 驚艷全球,並掀起全球 AI 浪潮後,各國政府或企業都在拼命地發展 AI 技術,他強調人們不該忽視 AI 的安全性,某些危險是「相當可怕的」。

「就目前而言,就我所知,它們還不比我們更聰明。但我認為它們很快就可能會超越我們。」

除了該如何控管假新聞、假資訊,這些已浮現的問題目前都尚未有定論之外,他還提到了「壞人」的概念,意指這些人會試圖用 AI 做「壞事」。

「你可以想像,假如俄羅斯總統普丁決定讓 AI 機器人擁有能力去設定自己的子目標(sub-goals)。這可能會導致它們最終產生像『我需要獲得更多權力』這樣的子目標設定。」

AI 教父:政府應負起責任

多位 AI 領域權威人士包括 Elon Musk 於今年三月份共同簽署了一封公開信,呼籲全面暫停研發強於 GPT-4 的 AI 系統六個月。這封公開信引起了廣泛關注,並引發了關於 AI 研發的道德與安全問題的辯論。

延伸閱讀:ChatGPT為何遭圍剿?聯合國組織、馬斯克呼籲暫停研發,母公司遭控違反聯邦貿易法

然而,辛頓博士對此持不同意見。他認為 AI 在「短期內」比起風險將帶來更多的好處。並稱他是科學的專家,而不是政策的專家,政府應負起監督 AI 開發的責任,並應非常慎重地防止它失控,政府應該針對 AI 開發問題進行更多的討論和共識。

他也提到他並沒有想批評 Google,而且表示這家科技巨頭一直以來都是非常負責任的,離開 Google 讓他得以在不用顧慮公司的情況下,對於 AI 的發展表達更真實的評論與建議。

「實際上我想說些關於 Google 的好話。如果我不在 Google 工作,這些話會聽起來會更有說服力。」

AI 技術發展正在逼近人類文明的「奇點」,無論如何,這項技術都將大幅的改變我們所處的社會,如此強大的技術,也讓人們看到未來的多樣性與可能性,並燃起了希望。然而,在另一方面,儘管多位權威人士警告了關於 AI 的道德和安全問題,至今全球仍尚未達成 AI 監管的共識,我們是否需要更多的討論和解決方案,以確保 AI 技術的發展符合人類的利益呢?

關於 ChatGPT 是否已擁有智慧?以及更多社會層面的議題探討,可參考此篇報導:人算不如ChatGPT算?研究顯示:ChatGPT可靠新聞標題預測股價

ai教父-警告了AI的道德和安全問題
我們現在正處於一輛高速列車上,令人擔憂的是,有一天這輛列車會開始自己建造軌道。文字來源:BBC