輝達(Nvidia)人工智能(AI)盛會GTC 2024,將於3月18日至21日舉行。輝達會上將發布新款B100晶片,同時邀請《注意力是你所需要的一切》(Attention Is All You Need)論文的8名作者參加會議,與輝達行政總裁黃仁勳(Jensen Huang)對話。
《注意力是你所需要的一切》一文提出聲名大噪的Transformer模型,該模型現已成為生成式AI發展的奠基石,包括聊天機械人ChatGPT在內幾乎所有AI產品,都依賴Transformer存在。Transformer的威力遠超語言範疇,可以產生任何具有重複圖案或模式的內容,包括Dall-E、Midjourney和Stable Diffusion等工具生成的圖像,還包括GitHub CoPilot等工具生成的電腦程式碼,甚至DNA。
Transformer的研究團隊來自谷歌(Google),團隊成員包括Ashish Vaswani、Noam Shazeer、Niki Parmar、Jakob Uszkoreit、Llion Jones、Aidan Gomez、Lukasz Kaiser、Illia Polosukhin共8人,如今八子都已離開谷歌,開啟AI創業之旅。