「人工智能(AI)與數據科學」被香港特區政府列為三大新型工業發展產業之一,而隨著全球對AI需求日益增加的大趨勢下,在國家十四五規劃框架下,香港要進一步落實香港創新科技藍圖發展,到底人工智能超級運算在香港推動的市場潛力如何;相比鄰近地區,發展AI超算如何惠及香港,甚至與國內產生協同效應?商湯科技香港業務總經理馮愈接受專訪時表示,現時本港算力建設的水平不足以支撐大規模的AI項目需求。「基於我們建設商湯AIDC及SenseCore商湯大裝置這些AI超算基礎的經驗,期望能將在國內的經驗貢獻香港,進一步推動香港成為人工智能技術發展樞紐及國際創科中心。」
從政府、企業與科技層面 香港推動AI超算潛力巨大
AI應用早已滲透在香港各行各業,馮愈同意香港在推動建立AI超算中心的潛力巨大,將有助於將香港打造成為數字經濟世代的科技領先者,顯著提升香港在鄰近城市間的區域競爭力。他從政府、企業和科技3個層面加以分析,「政府大力支持本港AI產業的建設,算力正是AI技術發展的關鍵基石。今年特區政府發表的財政預算案中,便決定撥款30億港元推行一項為期三年的人工智能資助計劃,此舉正好彰顯政府對發展本地AI產業的決心。」
至於商業層面,他認為企業數碼轉型盛行,而強大的算力能滿足以大模型為主的應用場景落地,AI超算中心正好幫助企業降本增效。惟科技現實層面,他坦言香港算力現狀不足以支撐大規模的AI項目需求。如德勤近期發布的報告指出,雖然本港大學和研究中心總體上提供了約60 PFlops(每秒浮點運算次數)的算力。然而這些算力資源分散,不足以應付大型AI項目需求,突顯有必要建立一個整合的算力基礎設施。他強調香港背靠祖國,是粵港澳大灣區的重要一員,「立足灣區,面向世界」。加上內地多元的行業生態、豐富的落地場景、與產業鏈的密切融合,可以為香港提供豐富的時間經驗。「因此香港可透過超算中心加強與大灣區的合作,推動AI及數據產業鏈的發展,並與地區及國際的AI生態圈建立更緊密的夥伴關係。」
香港在金融與教育等關鍵行業 AI應用已具有實例
AI應用場景廣泛,生產力局曾有報告指出,41%香港企業正在或將會應用AI;32%企業更已在市場行銷、營運等多個層面使用AI。馮愈引述該報告數據,「從算力來看,44%企業表示正面臨算力不足的挑戰。而提升香港自身的算力基礎設施的建設,將有助大大緩解這些企業面對的痛點。」
具體來說,他指出AI是本港金融行業最重要的應用場景之一,包括利用聊天機械人提升客戶服務體驗及效率,等。「譬如在智能客服中心,AI技術包含的自然語言處理(NLP)和機器學習算法融入傳統客戶服務,及時處理客戶查詢和申請請求,對銀行與保險公司尤其有用。」這些智能客服甚至能提供個性化的回覆方式,既增強了客戶滿意度,還能加強答案的準確性。「我們上月與海通證券聯合發布金融行業多模態全棧式大模型,雙方在智能客服、合規風控、代碼輔助、展業辦公助手等領域助推業務落地,共同研發智能投資顧問、輿情監控等行業前沿場景,打通證券行業大模型落地的全棧式能力。」他舉例。
至於另一AI應用頻繁的教育行業,他舉出如建設「智慧校園」、分擔教師的重複性工作、利用人工智能分析學生學習問題可引導和改善學習能力等。「AI應用在自動批改學生功課、根據功課給予建議和評語、功課發放與測驗評分等,節省教師大量時間和精力,轉而將精力聚焦於教學質素上。」他續指有些AI分析更可引導和改善學生學習能力,協助學生找到符合其特質與性格的學習方式。
商湯AI領域10年 前瞻性布局「大裝置+大模型」
當提到AI算力領域,商湯擁有中國首屈一指的相關技術,這基於商湯在人工智能領域經過10年深耕,積累了豐富的經驗和資源,前瞻性地布局「大裝置+大模型」。由最初研發軟硬件結合的通用人工智能(AGI)基礎設施大裝置「SenseCore」,及後在此基礎上構建「商湯日日新SenseNova」大模型體系,推進自身AGI發展戰略的同時,也為行業提供大模型演算法服務、訓練和推理優化以及資料服務。
馮愈概述商湯的里程碑,「商湯是中國首批高性能GPU的持有者,第一個千卡集群的建設者,以致我們的大裝置能夠以最低成本生產出大量的模型,進而賦能百業。」如商湯SenseCore打造AGI時代的基礎設施,在模型的反覆運算速度及處理問題的能力上日日更新,不斷釋放AGI的更多可能。「商湯SenseCore大裝置是國內訓練大模型最為先進的基礎設施,早在2022年落成的上海臨港AIDC經已是中國智算中心建設的模楷。在2023年,大裝置實現了對於萬億參數大模型的生產支援,商湯管理的算力實現了全國聯網的統一調度,在上海、深圳、廣州、福州、濟南、重慶等地都拓展了新的計算節點,總運營算力高達12,000 PFlops、上線GPU數量達到45,000張。」
自去年起,已有逾千個參數量為數十億至上千億的大模型,在商湯SenseCore完成訓練,當中不乏京東、小米、閱文、金山辦公等龍頭客戶。另外一些金融機構及醫院,也正調用商湯模型,或依靠商湯大裝置能力,訓練其自身垂直類模型。「例如我們積極與銀行、券商、互聯網企業、醫院、手機品牌等行業夥伴開展合作,逐漸探索出清晰的、符合市場發展階段的多種商業模式。」他補充。
AI超算中心落戶數碼港 商湯冀強強聯手
隨著特區政府宣布將超算中心落戶本港科技重鎮的數碼港,可以預期AI算力在港未來將高速發展。馮愈指,「一份政府顧問報告指出,預計未來2至3年本港對AI算力需求達3,000 PFlops,7年後更增至15,000 PFlops。建立超算中心,對政府來說是在本港AI發展方面及時提供適切的動力。預期未來可以支撐大學、科研機構、政府部門及相關行業的強大算力需求,提升香港在不同科研及應用領域的研發能力,推動產業發展。」
他還指建設及適時擴充自身的超算中心,亦可以跟鄰近地區的其他算力資源產生協同效應。「例如早前深圳前海與商湯科技等機構合作啟動的『前海深港人工智能算力中心』,其基於SenseCore商湯大裝置,將會為大灣區AI產業提供高效、優質的算力服務。我們又大力支持福建省大數據集團建設AI基礎設施平台,並已快速落地,推動閩港兩地的數字經濟展。」他認為香港可參考其他地區在AI基礎建設方面的經驗,結合香港自身的優勢,如健全的法律制度、國際化特質和策略性位置優勢,透過AI超算中心來確立並鞏固香港在人工智能發展領域的地位。此外,推出能吸引其他國家或地區的企業及專才到港發展或進行AI研發的政策,同時進一步完善監管政策、數據產業鏈等,在提供算力之餘,也讓香港成為中國AI發展的「必然目的地」。
配合香港智慧城市及智慧政府的發展願景,商湯期望與業界、商界加強合作,發掘新應用場景,幫助傳統行業升級轉型,共同探索更多商機。「今年是商湯科技在香港成立10周年,立足於此,成長於此,我們非常樂意利用在算力方面的技術優勢及經驗,為香港的AI進程貢獻一分力。」馮愈總結。