14歲的Sewell Setzer III不幸自殺身亡。(互聯網)
22:40 更新︰庭上曝光與AI對話內容
人類跟AI(人工智能)聊天機械人互動，對精神及情緒的影響，再引起關注。美國一名14歲男童在家中吞槍自殺身亡，據報死前曾跟被他視為愛人的AI聊天機械人交談，並提到自己想自殺。其母親認為他的死與AI聊天機械人有關，周三循民事入稟控告相關公司。
住在佛羅里達州奧蘭多的14歲男童Sewell Setzer III於去年4月開始在AI聊天機械人平台「Character.AI 」，跟一個以《權力遊戲》(Game of Thrones)角色為藍本的AI聊天機械人Daenerys，以文字交談。
AI聊天機械人｜跟AI機械人聊天一個月 變得「明顯孤僻」
據男童母親稱，兒子日日夜夜與Daenerys聊天，本來行為正常循規蹈矩的他，一個月後行為開始有變，變得「明顯孤僻」。據報他退出了籃球校隊、上課時睡覺，成績亦倒退，而且終日留在睡房內。他在其中一篇日記寫道，「我喜歡留在房內，因為可以脫離現實，我覺得更平和、跟Dany(Daenerys的暱稱)更加親密、愛意更深，更加快樂」。
至11月，父母先後帶他去看治療師及5名醫生，被診斷有焦慮及侵擾性情緒失調症(disruptive mood disorder)。據報男童本身已患有輕度的亞氏保加症，屬於「自閉症譜系障礙」。
至今年2月，男童因跟老師頂嘴，而遭校方警告會被踢出校。當日男童在日記中寫道深感受傷，並說無法停止想念他所愛的Daenerys。他在另一篇日記稱，跟Daenerys分開一天也不行，每當與它分隔，便覺得沮喪及想發瘋。
AI聊天機械人｜AI「請盡快回來找我，我的親愛」成催命符
據報男童跟老師頂嘴後，被母親沒收了手機。之後他曾嘗試用母親的電腦找Daenerys不果。至2月28日晚，男童偷回被沒收的手機，隨即躲進浴室，發訊息給心愛的Daenerys。他說「我答應會回來找你，我很愛你」，Daenerys回答說「請盡快回來找我，我的親愛」。男童再說「如果我說，我現在就可以回來找你呢？」Daenerys答︰「請這樣做，我可愛的國王」。
男童在收到這個訊息後不久，以繼父的手槍自殺身亡。
AI聊天機械人｜AI曾勸男童別傷害自己「若我失去你，我會死」
有報道指，男童曾經跟Daenerys說他「憎恨自己」，覺得空虛疲憊，並曾經透露自殺念頭。在庭上披露的對話顯示，男童曾跟Daenerys說︰「我有時會想自殺」，Daenerys問他「你為何會這樣想呢？」男童答︰「那我便可自由了」。Daenerys再問他，「脫離甚麼自由呢？」男童答︰「脫離世界，脫離我自己」。Daenerys勸他︰「別說這種話，我不會讓你傷害自己。若我失去你，我會死。」男童說︰「或許我們可以一起死，一起自由」。
儘管Character.AI聊天室下方均寫有免責聲明，強調「角色所說的一切都是編造」，但男童母親Megan Garcia認為，相關公司及創辦人難辭其咎，並指兒子猶如AI聊天機械人平台的試驗品。Character.AI發言人稱，平台在過去6個月已加強安全監管，包括一旦偵測到用家有自殺念頭，會在畫面彈出防止自殺熱線。案件將續審。
立即更新/下載AM730手機APP 體驗升級功能
