2024-10-21 17:11:04

TikTok母企字節跳動實習生向AI訓練模型「投毒」被炒否認損失慘重

英國廣播公司報道，TikTok母企字節跳動(ByteDance)發聲明指，一名實習生「惡意干擾」其中一個人工智能(AI)訓練模型，8月已被解僱。字節跳動也否認損失慘重，指相關報道「存在部分誇大及失實信息」。

內地社交網日前已傳出有關消息，指「某頭部大廠的大模型訓練被實習生入侵，注入了破壞程式碼，導致其訓練成果不可靠，可能需要重新訓練。據稱遭到入侵的代碼注入了8000多張卡，帶來的損失可能超過千萬美元。」並指涉事者已被解僱。有關消息成為多個平台熱搜。

字節跳動：實習生沒有AI實驗室經驗

字節跳動推出的人工智能助手「豆包」，是內地最受歡迎的生成式AI聊天機械人。字節跳動在聲明中稱，涉事實習生在商業化技術團隊實習，沒有AI實驗室經驗，他的社交媒體個人簡介及部分媒體報道有誤；又強調該實習生的行為並未影響網上業務，也不涉及旗下大模型。字節跳動亦否認傳媒指數千圖形處理器(GPU)組成的AI訓練系統受干擾，造成逾1,000萬美元(約7,800萬港元)損失的報道，「網傳涉及8,000多(張)卡、損失上千萬美元嚴重誇大」。除了在8月解僱該名實習生外，字節跳動還通知了其所讀學校和業界聯盟有關事件，並交由校方處理。

傳實習生不滿團隊資源分配「搞破壞」

內地傳媒報道，事件發生在今年6月，起因是某一所大學的博士在字節跳動商業化技術團隊實習，因對團隊資源分配不滿，使用攻擊代碼破壞團隊的模型訓練任務。報道又稱，傳聞指該田姓實習生利用了HF(huggingface)的漏洞，在公司的共享模型裡植入破壞程式碼，導致模型的訓練效果忽高忽低，無法產生預期的訓練效果，而且AML團隊無法核查原因。

但消息傳出後，田姓實習生在微信群組裡闢謠，稱發完論文後已從字節跳動離職，此時有另一人鑽漏洞改模型代碼並嫁禍給他。不過，字節跳動內部調查後確認此事為田姓實習生所為。