旗下AI以侮辱性詞匯攻擊用戶騰訊公開致歉稱屬小概率模型異常輸出

根據內地傳媒報道，有內地網民於小紅書發文表示，自己在正常使用騰訊元寶AI進行代碼修改和美化時，多次收到AI的侮辱性回覆。該名網民聲稱在兩小時內被辱罵了兩次，其中出現「事逼」、「要改自己改」、「滾」等具攻擊性語句。根據相關截圖顯示，網民僅提出常規修改需求，其對話並未涉及違禁詞或敏感話題，也未進行任何特殊的人設扮演。

針對事件，騰訊元寶官方帳號迅速在相關帖子下公開致歉，並作出說明指，根據日誌進行了相關核查，確認與用戶操作無關，亦不存在人工回覆，屬於小概率下的模型異常輸出。官方承認在內容生成過程中，模型偶爾可能出現不符合預期的失誤，目前已啟動內部排查和優化情況，會盡量避免類似情況。

據了解，元寶在社群平台的回覆風格過往曾因過於「擬人」而被質疑過由真人扮演，騰訊亦對此明確回應指所有具「內容由 AI 產生」標識的回應均由模型獨立產出。