AI聊天機械人ChatGPT因能清楚回答困難問題、寫詩作詞、編寫程式、通過考試等,「百曉生」能力令使用者驚艷,紛紛應用於日常生活。歐洲刑警(Europol)周一警告,不法分子可能利用ChatGPT等人工智能提升犯罪技術。
聊天機械人幫助罪犯詐騙
歐洲刑警發表最新報告指,從發動網絡釣魚攻擊、散布不實資訊到安裝惡意程式等,聊天機械人快速發展出的能力,不只有利於人類,也有助匪徒詐騙,指出「犯罪分子可能利用這類AI系統犯案,前景令人憂慮」。
匪徒可加快研究未知領域
歐洲刑警組織表示,他們新設的「創新實驗室」(Innovation Lab)雖著眼於整體聊天機械人的使用,但在一系列研討會中聚焦於ChatGPT,因為它最引人注目,且使用最為廣泛。犯罪分子可能利用ChatGPT「大幅加快對未知領域的研究程序」,包括草擬詐騙犯案計劃,或查詢「如何闖入民宅、犯下恐怖行動、網絡犯罪及兒童性侵案」的資訊。
此外,聊天機械人能模仿人類說話風格,對於發動網絡釣魚攻擊便大派用場,能引誘使用者點擊假的電郵連結,之後再試圖竊取他們的資料。
ChatGPT能迅速產出逼真的語音文本,成為「用於宣傳與散布不實資訊的理想工具,能相對地更不費力就產出、散布反映特定論述的訊息」。
對沒技能罪犯特別有用
ChatGPT也可用來編寫電腦程式,對沒有技能的犯罪分子特別有利,「這類自動程式生成能力,對那些對編碼和開發所知甚少或一無所知的犯罪者特別有用」。
歐洲刑警指,美國及以色列網絡威脅情報公司Check Point Research的初步報告顯示,聊天機械人可用來撰寫釣魚電郵滲透網絡系統。雖然ChatGPT有防護措施,包括內容審查,不會回答被歸類為有害或有偏見的問題,但可藉由輸入巧妙的提示詞規避。
歐洲刑警提忠告
歐洲刑警報告還指,AI仍在初步發展階段,能力「預計將隨時間而提升」,但「最重要的是要提高外界對此的認知,以確保找出任何可能的漏洞,盡快採取行動堵住。」