金管局日前與數碼港推出新的生成式人工智能(Gen AI)沙盒,將透過與業界交流合作,參考Gen AI沙盒的經驗,分享良好做法,同時確保有相關和適切的監管指引,以配合最新發展。
OneDegree Global共同創辦人梁德源表示,對於金管局及數碼港的Gen AI革新表示支持,並透過該公司旗下的保安風險評估品牌Cymetrics,提供紅隊解決方案提供支援,相關解決方案有效識別重要的保安漏洞及風險,以確保在保安、私隱及偏差的合規性。現時數碼領域所面臨的網絡威脅前所未有地升級,新興的人工智能技術同時帶來巨大潛力和全新挑戰。大型語言模型(LLM)等的生成式人工智能應用引起極大關注和廣泛使用,但亦令積極率先採用新技術的企業暴露在新型漏洞和不確定因素等的風險之中。
他補充,透過自動化測試平台Cymetrics Vulcan提供具規模性的AI風險分析,該公司可助金融機構駕馭複雜的Gen AI相關風險,在全新的經營環境模式下進行必要的加大風險管理,及確保保安措施到位。