【本刊記者李潤茵】自ChatGPT橫空出世，生成式人工智能風險亦陸續湧現。今年初，世界經濟論壇（World Economic Forum）將人工智能產生的錯誤訊息及假訊息列為全球「頭號威脅」。去年，香港人工智能深偽（AI Deepfake）騙案增10倍，實際僅屬冰山一角，在「深科技」加持下，金融黑色產業正急速膨脹，道高一呎，魔高一丈，但破案率卻徘徊低位。
究竟Deepfake是什麼技術？淪為騙徒「核心技術」前，深偽原指用人工智能合成人體圖像、影片及聲音，早於2017年已經面世，顧名思義是結合「深度學習」（Deep learning）及「偽造」（Fake）。
平情而論，這種技術並不新穎。簡單如修圖App都會用來「照騙」，還有早前流行玩FaceApp「變老」及「變性」，甚至「AI尹光」皆由深偽炮製。Deepfake能騙過人眼，本身是技術突破。
電影業早有「變臉」技術。舉例2008年畢彼特主演《奇幻逆緣》，講述主角出生時有衰老症，隨着年齡增長返老還童，用上CG技術變相是早期Deepfake，分別在於前者後製花錢花時間，需要專業人士操刀；後者靠內部演算法持續進化，使用門檻大大降低。
訓練Deepfake沒想像中困難。「若這個人坐着不動，只顯示面部，假設數據足夠，並視乎使用機器，估計拿到照片，用一星期訓練已足夠；聲線所需時間亦不長，我們驗證有1分鐘語音已很逼真，入面有笑聲、哭聲及嘆氣，模仿效果更佳。」
AI專家最清楚AI風險所在。曹琛為科技大學大數據研究所高級經理（研究與發展），曾任華為AI部門主管。去年他接受本刊訪問時，已警告生成式人工智能會衍生造假。「AI經歷幾個浪潮，AlphaGo擊敗圍棋高手，主要影響工業界，ChatGPT屬於『生成原理』，即從前回答判斷題，現在是做問答題，它能夠長篇大論。」
今年6月，美國加州大學聖地牙哥分校的認知科學家在一篇預印本論文中表示，OpenAI開發的ChatGPT-4人工智能聊天機械人，可以在超過一半時間內「欺騙」人類測試對象，意味着人工智能已經超越「圖靈測試」（Turing Test）水準，即代表電腦達到媲美人類的智力。
本科生已可操作
「以前，我們只把人工智能當工人，現在它慢慢成為知識生產源頭，很大程度與人混淆，甚至侵佔。Deepfake原理是學習大量真人數據，包括圖像、聲音及語氣，隨着技術發展只會愈來愈似人。」曹琛強調，製造出似人的機械人，始終是人類夢想，惟技術永遠是雙刃劍。
原文請閱8月份《信報財經月刊》
