2023-05-11 00:00

StartupBeat 創科鬥室

OpenAI新法拆解AI思想及早糾錯識別語言模型內部分工 尋潛在問題

生成式人工智能（Generative AI）已成為很多人工作、學習以至生活的一部分，然而外界對這種新技術的運作認知不多。科技媒體TechCrunch報道，ChatGPT開發商OpenAI正研發一種工具，能夠自動識別大型語言模型（LLM）哪些部分負責AI的何種行為，從中了解AI的工作，預測可能出現的問題，由此判斷所生成的答案是否可信。 據報道，目前該工具會透過一種語言模型，找出其他架構較簡單的LLM（例如OpenAI旗下的GPT-2）不同組件（components）的功能。首先，工具通過正在評估的LLM運行文本序列，等待某個經常激活的神經元，之後把其展示給GPT-4並要求生成一個解釋。該工具亦會 ...

（節錄）全文共1276字