規範AI發展靠「有效利他主義」

主導不少西方富豪捐款及組織慈善活動的有效利他主義（effective altruism），由較早期強調透過理性和數據去尋善款效益最大化，到大概十年前愈趨聚焦人工智能消滅人類的風險，繼而令大量捐款注入各種「對齊研究」：目標是所有AI系統之目標和行為跟人類社會價值觀和整體期望一致。這股逐漸滲透西方菁英階層的思潮，相信寧可拖慢AI發展速度，也不要讓人工智能走歪路──至於經常引用的對比例子，則是社交網絡開發早期正因為缺乏監控與危機意識，導致後來科技平台只顧追求流量，以至大規模煽動及散播仇恨，並帶來前所未見的政治分化局面。有效利他主義較多被人詬病的主張有二：其一，是一個人應該把賺錢的才能充分發揮，方 ...

（節錄）全文共1217字