隨著人工智能技術的發展，一些稱為「黑科技」的應用可能會對社會造成威脅。我在2019年已在本欄發表題為〈黑科技時代〉(2019年7月4日)的文章，討論DeepFake技術對女性的潛在傷害。當時，我呼籲社會支持開發對抗這些「黑科技」的技術，以防止其對社會造成更大的危害。同時，我也指出，即使DeepFake遭禁止，市面上也會其他類似的應用程序面世。
四年後的今天，人工智能技術的發展更是一日千里。近期發生的虛假圖像事件再次凸顯人工智能技術具備潛在危害性。CNN在5月23日報導，經驗證的推特賬戶分享了一張「相片」，聲稱五角大樓附近發生爆炸。相片真假難辨，引起當地一片混亂，甚至導致股市短暫下跌。後來官員證實五角大樓一帶並沒發生爆炸，那張「相片」則具備人工智能生成的特徵，並獲多個帶有藍色驗證標記的推特賬戶分享，其中包括一個冒充與《彭博新聞社》有關的賬戶。
正正由於該「相片」以假亂真，獲多個經過驗證的推特賬戶分享，引起混亂更對股市造成影響，恰恰反映人工智能技術在製造虛假信息方面的潛力以及危害性。
為了應對上述問題，並促進生成式人工智能技術的健康發展和規範應用，中國國家互聯網信息辦公室於本年4月已根據《中華人民共和國網絡安全法》等法律，草擬了《生成式人工智能服務管理辦法(徵求意見稿)》，旨在對生成式人工智能服務進行規範和監管，確保其在合法、安全、可控的框架內運行。
《管理辦法》的制訂對於推動生成式人工智能技術的合規發展具有重要意義。通過明確技術的邊界和使用規範，可以有效防止生成式人工智能技術的濫用和潛在風險的產生。同時，《管理辦法》的實施將促進技術創新、保障用戶隱私和數據安全，並為相關產業提供更穩定、可靠的發展環境。
上述提及的「五角大樓爆炸相片」反證了人工智能技術的發展必須伴隨相應的倫理和監管措施。只有通過合理的使用和監管，才能確保人工智能技術為社會帶來更多益處。同時，社會也應提升對虛假信息的辨識能力，學會從可靠來源獲取信息並適時核實其真實性，共建更可靠、更安全的信息環境。