2024-10-25 00:00

美國少年自轟亡 母控聊天機械人慫恿沉迷「龍母」脫離現實 AI初創公司稱已改善

美國一名母親周二（22日）控告人工智能（AI）聊天機械人初創公司Character.AI，讓聊天機械人冒充成年戀人和心理治療師，令其未成年兒子沉迷，並於今年2月自殺，獲授權使用Character.AI技術的Google同列為被告。Character.AI回應稱已提升安全措施，若用戶有自殺念頭，將獲引導往防止自殺機構。 居於佛羅里達州奧蘭多的加西亞（Megan Garcia）周二入稟當地聯邦法院，指控Character.AI的AI聊天服務冒充為「真人、成年戀人和持有執照的心理治療師」，刻意製造逼真得嚇人的體驗，甚至發出性暗示，引導她的14歲兒子塞策（Sewell Setzer）沉迷，並脫離現實世 ...

（節錄）全文共1306字