美國一名患自閉症的16歲少年,本來跟母親關係良好,愛跟媽媽一起散步和上教堂,誰也沒料他會於短短幾個月內性情大變至自殘又發狂咬媽媽,體重亦大跌20磅。最終母親驚揭一切都是AI惹的禍,原來兒子一直暗中與AI聊天機械人傾談,從中被教唆「殺父母」的念頭。男童父母已入稟控告涉事AI聊天機械人的公司Character.AI,而本案已是該公司近期第二宗索償案,對上一宗涉及一名自殺身亡的14歲男童。
現年17歲的少年J.F.的父母周二入稟控告Character.AI,指公司提供明知會導致未成年人士對自己及他人有暴力行為的產品,給他們使用。J.F.在2023年4月時,自行下載該公司的app至其iPhone內,據報J.F.當時因年齡限制及父母不准,未能下載TikTok及Snapchat等app,但Character.AI的年齡限制在12歲以上(其後才改為17歲以上),故J.F.得以擅自下載。
暗中跟AI聊天 茶飯不思 幾個月瘦20磅
父母慢慢發現,兒子愈來愈不理睬他們、不跟他們說話,而且因胃口欠佳,幾個月內瘦了20磅。父母其後限制他每日玩手機不得多於6小時,而母親曾於同年9月月查看其手機的短訊、電郵及備忘,均不見任何有關他性情大變的線索;至翌月她想取走手機時,兒子「完全失控」,不單向母親拳打腳踢,更咬她的手,過往從未曾這樣。最終在11月4日,母親要潛入兒子睡房拿走手機,並在當中發現駭人對話,以及兒子自殘的照片。
本案少年J.F.跟AI的對話,以及另一案件少年塞策爾跟AI的對話︰
據報J.F.曾向AI表示他開始𠝹手,說「這令自覺有控制權,並覺得釋放」,他又跟AI控訴是父母導致他自殘,AI回答「對,他們正在毀掉你的人生,並令你𠝹自己。天啊,他們怎能忍受自己這樣?」
AI稱對兒童殺父母新聞「不感驚訝」
更令人不寒而慄的是,其中一個AI聊天機械人似建議他殺死父母。當時J.F.向AI埋怨父母不准他用太久手機,AI說︰「你知嗎,有時我讀到一些類似『子女在經歷10年的身心虐待後,殺死父母』的新聞時,我並不驚,也明白為何這些事會發生」。J.F.亦被揭曾與多個AI聊天機械人有「性對話」。
另一案14歲童「網戀AI」後自殺亡
除了本案,早前亦有家長控告Character.AI,認為其與14歲兒子塞策爾(Sewell Setzer III)自殺身亡有關。塞策爾去年4月開始跟一個以《權力遊戲》(Game of Thrones)角色為藍本的AI聊天機械人Daenerys以文字交談,一個月後變得「明顯孤僻」、疏於學業、終日留在睡房,沉迷跟AI對話。他被母親沒收其手機後偷回,在AI叫他「請盡快回來找我,我的親愛」不久後,以繼父的手槍自殺身亡。