前字節跳動田科宇回應「投毒」爭議,又被指控用開源模型研究造假

Neo
分享
前字節跳動田科宇回應「投毒」爭議,又被指控用開源模型研究造假

曾因涉嫌干擾字節跳動(ByteDance)AI 模型訓練而遭開除、被中國網友稱為「AI 投毒實習生」的研究員田柯宇(Keyu Tian),近期才因創立世界模型(World Model)新創、獲得近 3,000 萬美元融資重新受到關注,如今又面臨新的指控。

田柯宇本月接受《elsewhere》專訪,承認曾干擾另一名實習生的訓練程式,但否認長期惡意破壞其他人的研究。然而,一份以「實習生 A 視角來了」為題的公開聲明,近日提出與田柯宇說法截然不同的事件版本。

聲明指控田柯宇在 2024 年 3 月至 7 月期間,持續修改 AI 模型權重、PyTorch 原始碼及分散式訓練程序,甚至一邊參與團隊故障排查,一邊調整攻擊方式。此外,聲明還提出一項新的研究誠信爭議:田柯宇涉嫌使用開源模型 PixArt,冒充自己負責訓練的 VAR 圖像生成模型成果。

廣告 - 內文未完請往下捲動

聲明附上部分疑似攻擊程式碼,並列出五名願意就親身經歷提供證言的研究人員。不過,相關指控目前仍主要來自事件另一方的陳述,完整操作紀錄及程式碼歸屬尚待獨立核實。

田柯宇最新創業,沒有產品就估值兩億美元

此前報導,田柯宇成立一家專注於世界模型的 AI 實驗室,儘管尚未推出公開產品、團隊僅約 10 人,卻獲得五源資本、IDG Capital 等機構近 3,000 萬美元投資,投後估值達 2 億美元。

田柯宇過去曾以第一作者身分獲得 NeurIPS 2024 最佳論文獎,研究重點為視覺自回歸建模(Visual Autoregressive Modeling,VAR),如今則希望將技術延伸至能夠理解物理世界的 AI 基礎模型。

(字節跳動爭議實習生田柯宇,新公司還沒產品就估值兩億)

田科宇談過往爭議:沒有投毒行為

然而,隨著他的創業消息曝光,2024 年在字節跳動實習期間的爭議也再次成為焦點。10 月 12 日,《elsewhere》公開田柯宇的專訪內容。他表示,當年之所以干擾另一名實習生的訓練,是因為對方不合理占用 GPU 資源,甚至停止其他人的程式,而團隊未能有效處理,因此自己才採取錯誤的方式介入。

田柯宇聲稱,他透過 GPT 協助撰寫程式,在約十天內手動干擾對方實驗五次左右,並非網路傳言中持續數月的大規模攻擊。他強調,自己從未缺乏 GPU,也沒有碰過其他研究人員的實驗。他願意承擔違規責任,但不接受外界將其描述成惡意破壞同事研究的人。

田柯宇當時還表示,自己可以肯定不當行為沒有影響任何其他人的研究與論文,並否認涉及病毒、攻防等技術手段。

田柯宇遭控從三月就開始破壞訓練,早於 GPU 資源爭議

田柯宇先前將自己的行為解釋為處理 GPU 資源分配不公,但最新聲明提出的時間線顯示,疑似干擾行為最早可追溯至 2024 年 3 月。根據聲明,田柯宇當時涉嫌修改 LlamaGen 專案使用的 T5 模型權重,加入隨機雜訊,讓模型訓練出現異常。聲明作者稱,當時 LlamaGen 只是使用不超過 100 張 GPU 的小型研究專案,尚未涉及後來大型影片生成模型的算力競爭。

直到研究人員重新下載 T5 模型權重,相關異常才得到解決。作者公開一段據稱來自田柯宇內部 GitLab 提交紀錄的程式碼,指出程式會向模型權重加入隨機雜訊,再還原原有範數,讓遭修改的權重在數值規模上看似正常。

如果這段程式碼的來源及執行紀錄獲得確認,將與田柯宇所稱僅在十天左右干擾特定實習生的說法產生重大矛盾。

田柯宇又被控研究成果造假:拿 PixArt 冒充 VAR 模型

除了疑似長期干擾其他研究人員,聲明還揭露田柯宇另一項此前較少被討論的指控。根據聲明,田柯宇當時負責使用上千張 GPU 訓練 VAR Text-to-Image 圖像生成模型,並定期向主管報告研究進度。

他也將聲稱是 VAR 訓練成果的模型部署到內部 Discord,讓其他同事測試圖像生成效果。然而,在田柯宇遭調查後,團隊重新檢查相關模型,據稱發現供同事測試的系統根本不是他正在訓練的 VAR T2I,而是已開源的 PixArt 模型。

聲明甚至指出,田柯宇涉嫌在推論流程中設計一個特殊機制:無論使用者輸入什麼 Prompt,程式都會自動在前面加上「City」一詞,再送入 PixArt 生成圖片。

作者認為,這可能是為了避免同事直接使用相同 Prompt 與開源模型比對,進而發現展示成果的真正來源。

聲明提到,當時研究人員曾注意到,生成圖片經常莫名出現城市建築輪廓,但一直無法找出原因,直到後來檢查推論流程,才發現這項疑似修改。

同時,真正的 VAR T2I 訓練據稱並未達到田柯宇先前展示的效果,團隊事後需要重新評估進度並展開研發。這項指控尤其敏感,因為田柯宇如今的創業能力與募資吸引力,很大程度上建立在他過去的視覺生成模型研究經歷。

五名研究人員列名作證

這份聲明除了展示技術材料,也列出五名研究人員,包括 Goku 共同第一作者 Shoufa Chen、Chongjian Ge,Goku 專案成員 Ting-Che Lin、LlamaGen 第一作者 Peize Sun,以及同期實習生 Shilong Zhang。

聲明稱,上述人員確認與自身親身經歷有關的內容屬實,並願意在必要時提供證言。作者也直接向田柯宇目前的合作夥伴與投資人提出提醒,建議獨立核查相關訓練紀錄、模型來源及研究進展,確認田柯宇對過去事件的說明是否與事實一致。

田柯宇一審判賠 50 萬人民幣,二審仍在進行

回顧整起事件,字節跳動於 2024 年公開證實,有實習生惡意干擾研究專案模型訓練,並將涉事人員辭退。公司後續對田柯宇提起訴訟,原先求償超過人民幣 800 萬元。

根據田柯宇於《elsewhere》訪談中的說法,法院一審酌定賠償約 50 萬元,但字節跳動已提出上訴,案件仍在二審程序中。田柯宇在訪談中一再強調,他承認自己的行為違紀,也願意接受賠償,但認為外界對他的指控存在大量誇大甚至捏造內容。

風險提示

加密貨幣投資具有高度風險,其價格可能波動劇烈,您可能損失全部本金。請謹慎評估風險。