xAI的未來可期,Grok 2 將於 8 月推出
新火種 / 洪嘉鎂編譯
2024-07-08 19:10

馬斯克真是世界上精力最旺盛的富豪之一,他一面進行著火箭計畫,一面加緊研發新能源車的腳步,還在百忙之中抽空在自己的社群軟體上宣布「Grok 2 將於下月上線」的重大消息。

同時完成好幾件工作,馬斯克算是把「多線作戰」玩得明明白白的了。

連發兩則推文為 xAI 造勢!8 月發布 Grok 2,年底將推出 Grok 3...

就在最近,深諳行銷和宣傳之道的馬斯克在自己的推特上連發兩則推文,為自己的 xAI 造勢。

大家都知道,xAI 由馬斯克建立,它致力於建構通用人工智慧,其目標是「了解宇宙的真實本質」。事實上,xAI 的出現是帶著「使命感」的,就是要與 Google 的 DeepMind、ChatGPT 的製造商 OpenAI 等業界領導者進行競爭。

馬斯克本人也與當下的 AI 巨頭公司 OpenAI 之間存在著錯綜複雜的關係。他曾是 OpenAI 的共同創辦人和早期支持者,後來因為嘗試收購 OpenAI 失敗以及利益衝突而離開了公司。如今,馬斯克已經公開表示與 OpenAI 的執行長 Sam Altman 關係不合,更嚴厲斥責該公司和 Altman「只顧利潤,不顧安全」的態度,他甚至對 OpenAI 發起了訴訟。

2023 年 3 月,xAI 推出了 Grok 的第一代版本 Grok 1 模型,Grok 1 是由 xAI 從頭開始訓練的 3,140 億參數專家混合模型,其參數遠超 OpenAI GPT-3.5 的 1,750 億,並且是 Llama 2 的 4 倍。4 月 16 日,xAI 乘勝追擊,效率極高地推出了升級版的 Grok 1.5V,在性能上擁有了顯著的提高。它不僅擁有強大的文字功能,還能處理各種視覺資訊,包括文字、影像、文件以及表格內容。特別是在理解物理世界方面,Grok 1.5V 的表現優於其他同類產品。

而在 X 上進行回覆的馬斯克表示,xAI 的大語言模型 Grok 2 將於 8 月推出。並且馬斯克為大家劃重點:在資料訓練方面將有大進步。與此同時,他還透露,xAI 的 Grok 3 使用了 10 萬片輝達 H100 晶片進行訓練,預計將於年底發布,相信它會「非常特別」。

Grok 2 還沒推出,就已經開始為 Grok 3 造勢了,不得不說,馬斯克的確是懂流量的。

Grok 2 的最大看點:資料訓練飛躍,或有效解決「人體蜈蚣效應」。

值得一提的是,馬斯克宣布 Grok 2 將在 8 月推出這則回覆的原推文也頗有意味。

原推文中,Cohere 執行長 Aidan Gomez 表示,由於許多人工智慧模型都是根據 OpenAI 的輸出結果進行訓練的,因此會產生「人體蜈蚣效應」,即模型會產生相同的輸出結果。對於這一現象,使用大語言模型的用戶應該深有體會。譬如一位網友就發現,自己雖然付了 GPT-4 和 Claude 兩份的錢,卻得到了同一份相同的答案,還都是錯誤的答案。

這條負面消息一出,可是個千載難逢的抹黑 GPT 的機會,馬斯克自然不會錯過。畢竟,他與 OpenAI 之間的戰火瀰漫了 4 個月,已經到了水火不容、勢不兩立的境地。

藉著這個機會,馬斯克一方面對 OpenAI 進行狠狠拉踩,另一方面乘勝追擊,為即將推出的 Grok 2 造勢。他發文表示,從網路語言資料中清除掉 LLM 合成的錯誤資料,形成高品質資料集需要大量的工作,而 8 月份推出的 Grok 2 將是這方面的巨大進步。馬斯克的消息一出,立刻受到了大批網友和粉絲的擁戴,大家紛紛表示,要轉投這個出身豪門的 Grok 的懷抱。

畢竟,背靠大樹好乘涼。即便是在花錢如流水的 AI 領域,xAI 的資金實力也算是遙遙領先的。早在今年 5 月,xAI 就官方宣布拿到 60 億美元(折合約 1948 億人民幣)的 B 輪融資,估值達到約 180 億美元(折合約 5,845 億人民幣),一舉躍升獨角獸。本輪融資的主要投資者包括特斯拉和 SpaceX 的首批投資者 Antonio Gracias 領導的 Valor Equity Partners;杜拜投資公司 Vy Capital;美國私人風投 Andreessen Horowitz 及 Sequoia Capital;風投公司 Fidelity Management & Research Company;沙烏地阿拉伯王國控股公司 Kingdom Holding 等。

反觀 xAI 的最強勁競爭對手 OpenAI,在過去 10 年間獲得融資總額為 143 億美金,在 xAI 之下。有了這筆資金的加持,xAI 瞬間擁有了「鈔能力」,將有助於 xAI 加速其聊天機器人 Grok 的開發和迭代,使其與 OpenAI 的 GPT、Meta 的 Llama、Anthropic 的 Claude 以及 Google 的 Gemini 等人工智慧領導者的大模型表現保持一致,甚至實現一定程度的領先和反超。

豪擲 40 億美元買 10 萬個 H100 訓練模型,只為讓 Grok 3 於年底驚豔亮相。

根據馬斯克的說法,xAI 給大家帶來的驚喜絕不只是 Grok 2,擁有更強性能和表現的 Grok 3 也將於年底亮相。

要說 Grok 3 有什麼特點,最顯著的一個當屬身家特別豪。

馬斯克透露,Grok 3 會在「經過 10 萬個輝達 H100 GPU 的訓練後,成為特別的東西」。

10 萬個 H100 GPU 意味著什麼?要知道,科技公司都在競相打造更加智慧的 AI 產品,在這場曠日持久的科技戰中,H100 會成為當仁不讓的題材。

作為打造 AI 產品時必不可少的關鍵組件,熱門商品 H100 GPU 的價格自然是不便宜,每片的成本都在 3 萬美元到 4 萬美元之間。

而馬斯克居然為了訓練 Grok 3 買了 10 萬個 H100 GPU,這是個什麼概念?這意味著這筆訂單的價格會達到 10 位數的天價,輝達也會因此受惠。

當然,也存在一個可能,就是 xAI 並沒有直接購買這一批晶片。而是從雲端服務提供商租用 GPU 進行計算,這也是可能的。根據 The Information 在 5 月份的報導,馬斯克的 xAI 與甲骨文公司進行了洽談,準備斥資 100 億美元租用雲端伺服器。

但無論如何,有一點毋庸置疑,馬斯克的 xAI 近年來直接購買了大量的 H100,是輝達的忠實客戶。就連特斯拉官方,也將原定用於特斯拉的一批價值 5 億美元的英偉達 H100 轉用於 xAI。

即便 Grok 2 和 Grok 3 都還沒有問世,我們完全可以預見,Grok 2 的性能會比先前的 Grok 1.5 有顯著的提升,而基於 10 萬個 GPU 訓練的 Grok 3 勢必會比 Grok 2 更上一層樓(Grok 2 大約需要 2 萬張 H100 來進行訓練)。

那麼問題來了,手握 10 萬個 GPU,是否意味著馬斯克和他的 xAI 可以在下一輪 AI 產品迭代中遙遙領先,高枕無憂了?

顯然不能。因為在 AI 這個領域,沒有最卷,只有更卷。

10 萬個 GPU 聽起來確實很多,但是,其他的 AI 巨頭正在購買更多的 GPU。有消息稱,Meta 將在 2024 年底向輝達採購約 35 萬個英偉達 H100 GPU。屆時,包括已經採購的和其他 GPU,Meta 將擁有約 60 萬個晶片。也就是說,Meta 會花費約 180 億美元打造 AI 晶片。

由此可見,AI 的這場軍備賽,會日趨白熱化。

本文為AI新智界授權刊登,原文標題為「馬斯克自曝Grok 2將於下月上線! Grok 3也在加緊訓練中