導(dǎo)航菜單

英偉達和 Mistral 的新模型「Mistral-NeMo」為臺式電腦帶來企業(yè)級人工智能

導(dǎo)讀 7 月 21 日消息:英偉達(Nvidia)和法國初創(chuàng)公司 Mistral AI 日前聯(lián)合宣布推出一款新語言模型,旨在將強大的 AI 功能直接帶到企...

7 月 21 日消息:英偉達(Nvidia)和法國初創(chuàng)公司 Mistral AI 日前聯(lián)合宣布推出一款新語言模型,旨在將強大的 AI 功能直接帶到企業(yè)桌面。這款名為 Mistral-NeMo的模型擁有 120 億個參數(shù)和 128,000 個 Token 上下文窗口,是尋求在不依賴大量云資源的情況下實施 AI 解決方案的企業(yè)的強大工具。

Nvidia 應(yīng)用深度學(xué)習研究副總裁 Bryan Catanzaro 在接受媒體采訪時強調(diào)了該模型的可訪問性和高效性。他說:「我們與 Mistral 共同訓(xùn)練了一款 120 億參數(shù)的模型,并將其以 Apache 2.0 許可發(fā)布。我們對該模型在許多任務(wù)中的準確性非常滿意。」

Nvidia 作為 GPU 制造和 AI 硬件領(lǐng)域的巨頭,與歐洲 AI 新星 Mistral AI 的合作,標志著 AI 行業(yè)在企業(yè)解決方案方面的重大轉(zhuǎn)變。通過專注于更小但功能強大的模型,這一合作旨在讓更多企業(yè)能夠接觸到先進的 AI 技術(shù)。

在巨人之間的小人物:小型模型如何改變游戲規(guī)則

Catanzaro 進一步解釋了小型模型的優(yōu)勢:「小型模型顯然更易于獲取和運行,商業(yè)模式也可以不同,因為人們可以在自己的系統(tǒng)上運行這些模型。實際上,這個模型可以在許多人已經(jīng)擁有的 RTX GPU 上運行?!?/p>

這一發(fā)展正值 AI 行業(yè)的關(guān)鍵時刻。雖然目前大量關(guān)注集中在像 OpenAI 的 GPT-4 這樣擁有數(shù)百億參數(shù)的巨大模型上,但越來越多的人對能夠在企業(yè)硬件上本地運行的高效模型產(chǎn)生興趣。這一轉(zhuǎn)變主要是因為數(shù)據(jù)隱私、低延遲需求以及更具成本效益的 AI 解決方案等因素。

Mistral-NeMo 的 128,000 個 Token 上下文窗口是其一大亮點,使該模型能夠處理和理解比許多競爭對手更大的文本塊。Catanzaro 表示:「我們認為長上下文能力對許多應(yīng)用非常重要。如果它們可以避免微調(diào),那就使得部署更加簡單?!?/p>長短之分:上下文在 AI 中的重要性

這一擴展的上下文窗口對處理長文檔、復(fù)雜分析或復(fù)雜編碼任務(wù)的企業(yè)非常有用。它可能消除頻繁的上下文刷新需求,從而帶來更連貫和一致的輸出。

該模型的高效性和本地部署能力可能會吸引那些互聯(lián)網(wǎng)連接有限或有嚴格數(shù)據(jù)隱私要求的企業(yè)。然而,Catanzaro 澄清了該模型的預(yù)期使用情況:「我認為更多是針對筆記本電腦和臺式機,而不是智能手機?!?/p>

這種定位表明,雖然 Mistral-NeMo 將 AI 帶到個人企業(yè)用戶的身邊,但它還沒有達到移動設(shè)備部署的階段。

行業(yè)分析師認為,這一發(fā)布可能會顯著擾亂 AI 軟件市場。Mistral-NeMo 的推出可能會改變企業(yè) AI 部署的方式。通過提供一個可以在本地硬件上高效運行的模型,Nvidia 和 Mistral AI 正在解決企業(yè)在廣泛采用 AI 時面臨的許多問題,如數(shù)據(jù)隱私、延遲和高昂的云解決方案成本。

這一舉措可能使資源有限的小企業(yè)也能利用以前只有大型企業(yè)才能使用的 AI 能力。然而,這一發(fā)展的真正影響將取決于模型在實際應(yīng)用中的表現(xiàn)以及圍繞它的工具和支持生態(tài)系統(tǒng)的發(fā)展。

該模型目前以 NVIDIA NIM 推理微服務(wù)的形式提供,并且很快將推出可下載版本。其 Apache 2.0 許可允許商業(yè)使用,這可能會加速其在企業(yè)中的采用。

民主化 AI:將智能帶到每一個桌面的競賽

隨著各行業(yè)企業(yè)繼續(xù)努力將 AI 整合到運營中,像 Mistral-NeMo 這樣的模型代表了更高效、可部署的 AI 解決方案的趨勢。是否會挑戰(zhàn)大型云模型的主導(dǎo)地位還有待觀察,但它無疑為企業(yè)中的 AI 集成開辟了新的可能性。

Catanzaro 在采訪中以展望未來的聲明總結(jié)道:「我們相信,這個模型代表了讓 AI 對各類企業(yè)更可訪問和實用的方向的重要一步。這不僅是關(guān)于模型的強大能力,還在于將這種能力直接交到可以用它來推動日常運營中創(chuàng)新和效率的人們手中?!?/p>

隨著 AI 領(lǐng)域的不斷發(fā)展,Mistral-NeMo 的發(fā)布標志著為企業(yè)提供更可訪問、高效和強大的 AI 工具方面的重要里程碑。這將如何影響更廣泛的 AI 生態(tài)系統(tǒng)還有待觀察,但可以肯定的是:將 AI 能力更接近最終用戶的競賽正在升溫,Nvidia 和 Mistral AI 已經(jīng)在這一方向上邁出了大膽的一步。

免責聲明:本文由用戶上傳,如有侵權(quán)請聯(lián)系刪除!

猜你喜歡:

最新文章: