2024-10-24 00:00

跨市博弈 徐立言

AI學會「思考」 顛覆運算格局

在人工智能（AI）的疆場上，訓練與推理運算長期以來一直是兩大主角。然而，隨着OpenAI推出的o1模型，這一平衡似乎正經歷一場前所未有的顛覆。這場變革不僅重新定義了AI運算的格局，也為投資者和業界玩家帶來了新的機遇與挑戰。 傳統上，AI的運算負載分為訓練（training）和推理（inference）兩類。訓練運算用於打造新一代的大型語言模型（LLM），而推理運算則負責模型的實際應用。在AI狂熱中，大家都在談論訓練大型語言模型。但真正的金礦可能藏在推理這個被忽視的角落。據業內人士透露，推理運算市場的規模可能會遠遠超過訓練運算，而且輝達（Nvidia）在此領域將不會像在訓練市場那樣獨佔鰲頭。可以 ...

（節錄）全文共1723字