Predibase 是 LLM(大型語言模型)微調的領先開發平台,它推出了 LoRa Land,這是 25 個開源微調模型的集合,該公司聲稱這些模型可以挑戰甚至超越非常流行的 OpenAI 的 GPT-40。
LoRa Land 由 Predibase 的無伺服器微調端點和開源 LoRax 框架提供支援。 新平台提供了廣泛的用例,從情緒分析到摘要。
GPT-4 是世界上使用最廣泛的 LLM 之一, 對於 LoRa Land 來說,超越它是一項艱鉅的挑戰。 然而,Predibase似乎對其最新產品的功能充滿信心。 該公司聲稱,LoRa Land 為組織提供了一種更具成本效益的方式來訓練高度準確和專業的 GenAI(生成式人工智慧)應用程式。
由於從頭開始構建 GPT 模型和微調 LLMS 的成本高得令人望而卻步,使用專門的 LLMS 正成為一種流行的替代方案,而這正是 Predibase 可能在競爭格局中定位 LoRa Land 的地方。
開發人員使用更小、更專業的 LLMS,利用引數高效微調和低階適配等技術來建立高效能 AI 應用程式,以降低微調 LLMS 的成本。 Predibase表示,它已將這些技術整合到自己的平台中,使使用者可以選擇最適合其應用的LLM,並對其進行相應的微調。
傳統上,微調的 LLM 投入生產成本如此之高的原因之一是它們需要為每個模型配備專用 GPU。 對於需要部署 LLM 以解決各種用例的使用者來說,GPU 費用加起來是增長和創新的主要障礙。 雖然通過 API 訪問 LLM 的初始實驗相對便宜,但當部署完全實現時,成本可能會迅速上公升。
從資源的角度來看,微調開源 LLM 不僅成本高昂,而且存在缺乏 AI 技能的主要問題,這是採用 AI 的主要障礙之一。
Predibase 通過設計 LoRa Land 在單個 GPU 上為多個微調的 LLM 提供服務,克服了成本挑戰。 根據 Predibase 的說法,LoRa Land 中的 25 個 LLM 能夠以低於 8 美元的平均 GPU 成本進行微調。 這不僅更便宜,而且使用者也不必等待 GPU 預熱啟動後再微調每個型號。 LoRa Land 提供的其他優勢包括高度可擴充套件的基礎設施模型以及即時部署和提示。
Predibase 聯合創始人兼首席執行官 Dev Rishi 表示:“組織越來越認識到為不同的用例和客戶擁有許多更小、更精細的模型的好處。 “根據內部資料,65%的受訪組織計畫在未來12個月內部署兩個或更多微調的LLM,18%的組織計畫部署六個或更多。 ”
LoRa Land 提供的效率和可負擔性為 AI 競賽中的小公司提供了公平的競爭環境。 對於希望部署各種專業 LLM 以推動其業務向前發展的公司來說,這是個好訊息。
新平台的引入不僅提供了技術創新,而且有可能改變人工智慧發展的格局。 Predibase 渴望以其高效能、成本效益和可訪問性為行業樹立新標準。