馬斯克大模型開源 Grok參數量冠全球

美國億萬富豪馬斯克（Elon Musk）旗下AI初創公司xAI，正式開源3140億參數的混合專家（MoE）模型Grok-1，以及該模型的權重和網絡架構。Grok-1為現時參數量最大的開源大型語言模型（LLM），目前已在軟件代碼託管平台GitHub上架，發布19小時獲得超過2.1萬星標。聊天機械人Grok在去年11月推出，回答問題時略帶詼諧及叛逆。xAI指正遵守Apache 2.0授權條款，以開源Grok-1的權重及架構，意味無論個人或商業用途，都可自由使用、修改及分發軟件。由於Grok-1模型規模達3140億，GPU（圖像處理器）需要有足夠記憶體（例如628GB），相當於輝達HGX 8×H1 ...

（節錄）全文共506字