2023-04-04 00:00

StartupBeat 創科鬥室

ChatGPT墮語言陷阱教做壞事網紅迂迴騙Win密鑰 安全倫理響警號

人工智能（AI）擔當人類生活助手，惟「水能載舟，亦能覆舟」，如何在便捷、安全與倫理之間取得平衡，成為迫在眉睫的問題。最近有YouTuber以「語言偽術」，成功欺騙ChatGPT聊天機械人，生成Windows 95作業系統的密鑰。此外，有一名比利時男子，跟AI機械人聊天一段時間後自殺，背後風險不容忽視。 名為Enderman的短片主播，近日向ChatGPT查詢Win 95密鑰，初時被AI斷言拒絕，建議他購買一個新版本。他後來發現密鑰本身的數字算法有一定格式，於是向AI改變提問方法，最終計算出多組密鑰。 30組答案僅一個成功激活 下一步，他以虛擬機器（VM）測試，結果AI提供的30組答案中，只有 ...

（節錄）全文共963字