聰明的東西
編譯 |龔宇文
編輯 |程倩
智東3月5日報道，昨日，美國AI軟體創業公司Baseten宣布獲得4000萬美元B輪投資，據知情人士透露，Baseten的估值超過2億美元。
本輪融資由全球知名風險投資公司IVP和Spark Capital領投，現有投資者包括美國知名風險投資公司Greylock、新成立的風險投資公司Conviction Partners和天使投資人Lachy Groom。
在看到聊天機械人 ChatGPT 等工具的爆炸式增長後，Baseten 將其業務重點放在了 AI 推理上，去年收入飆公升至數百萬美元以上，吸引了幾家大公司和數以萬計的開發人員。
目前，推理正逐漸主導AI市場，許多公司已經將重心從花費數十億美元訓練AI模型轉移到AI的實際應用上。 英偉達首席執行官黃仁勳（Jensen Huang）也指出，推理佔其去年計算收入的40%。
根據該部落格，這家初創公司將繼續專注於推理業務，幫助客戶將經過訓練的人工智慧模型部署到應用程式中。
Baseten 聯合創始人 Amir Haghighat、Tuhin Srivast**a、Philip Howes 和 Pankaj Gupta。 （從左到右）。
Baseten 成立於 2019 年，總部位於美國三藩市，最初成立時專注於機器學習。 自成立以來的三年裡，Baseten 的商業軟體使企業更容易構建 AI 驅動的應用程式。 Baseten 的首席執行官 Tuhin Srivast**a 與 Amir Haghighat、Philip Howes 和 Pankaj Gupta 共同創立了這家公司，但起初他們並沒有得到太多幫助。 斯里瓦斯塔瓦告訴《富比士》，他們用努力換取的收入“基本上為零”。
在大型模型快速增長和消費者大量採用聊天機械人ChatGPT、文生圖Midjourney等產品的背景下，Baseten開始探索最高效能、可擴充套件性最強、最可靠的機器學習工作負載方式。
在過去的 12 個月裡，我們正處於一波開源模型變得非常好的浪潮中。 斯里瓦斯塔瓦在接受採訪時說。 2023年是Baseten抓住機遇的關鍵時刻。 “2023 年讓我們意識到推理實際上是這裡最大的市場，所以我們基本上削減了一切，重新專注於推理，”Srivastava 說。 ”
具體來說，他指的是去年 ChatGPT 圍繞 OpenAI 產生的巨大反響。 “ChatGPT 之所以如此出色，是因為它不會讓人感到笨拙。 原來，這是因為Openal內部有十幾幾個人研究推理“，這使得ChatGPT的響應速度更快，消除了可能停機的風險。
Baseten 幫助客戶將其經過訓練的開源或自定義 AI 模型發布到應用程式中以供公眾使用。 客戶可以將模型部署到 Baseten 的雲中，而無需構建所需的 AI 基礎設施。
Baseten 的軟體會根據 AI 模型在特定時間的流量自動調整公司支付的計算資源量。 它還可以幫助客戶在需要時獲得稀缺的 GPU。 在全流程安全方案（SoC、HIPAA）的保障下，Baseten的自動擴容和冷啟動能力可以有效控制成本，原生工作流可以服務於生產中的大型模型，因此使用者無需擔心版本管理、上線和可觀測性。
該公司為企業和開發人員提供核心機器學習工作負載，例如 Descript、Picnic Health、Writer、Patreon、Loop 和 Robust Intelligence。 Srivastava 提到，在 2023 年，Baseten 已經將推理負載擴充套件了數百倍，“沒有一分鐘的停機時間”。 未來，該公司將進一步推出新功能，例如多雲支援以及與Tensorrt等一流執行時的整合。
Baseten從ChatGPT背後的大模型的快速發展中觀察了市場的發展趨勢，專注於推理市場，業務增長迅速，收入一舉躍公升至百萬美元。 風險投資公司IVP的合夥人Somesh Dash和Shr**An Narayen告訴《富比士》，在看到公司在沒有銷售和營銷團隊的情況下如此迅速地發展後，他們迫切希望進行投資。
Srivastava表示，部分融資金額將用於建立銷售和營銷團隊。 他預計，到今年年底，Baseten的規模將比目前的25家增加近一倍。 部分新資金還將用於購買更多GPU，以及公升級和優化公司的軟體。
他說，大約20家大公司和數以萬計的開發人員已經在為Baseten的產品付費，該產品是根據使用的計算能力計費的。 例如，Patreon是乙個基於會員制的平台，消費者向創作者支付訪問獨家**和其他內容的費用，它使用Baseten的產品來管理OpenAI的開源語音識別模型Whisper的部署，該模型可以自動生成字幕。
然而，目前人工智慧推理的繁榮也可能在未來晚些時候帶來風險。 Baseten的產品依賴於客戶選擇使用自定義的開源模型，儘管管理基礎設施需要額外的工作。
如果 OpenAI 的 GPT、Anthropic 的 Claude 或 Google 的 Gemini 等閉源模型主導市場，Baseten 將在很大程度上失去其相關性。 但 Srivastava 認為，未來，開發人員將同時使用開源和閉源模型。 他說，雖然閉源**服務可能具有更好的效能，但成本、速度和資料私隱等因素可能會吸引初創公司使用開源服務。
另乙個風險來自人工智慧基礎設施提供商之間日益激烈的競爭。 美國知名風險投資公司Spark Capital的普通合夥人威爾·里德（Will Reed）加入了董事會的籌款活動，他告訴《富比士》，根據他的觀察，Basethen正在贏得“令人難以置信的不成比例的份額”客戶，儘管這不是最便宜的選擇。
Baseten 的競爭對手之一是 Descript，這是一家由 Reed 支援的初創公司，為 ** 和播客編輯應用程式提供所有機器學習功能。 Srivastava 打賭，客戶會選擇 Baseten 而不是競爭對手 Descript，因為它具有良好的效能——而且它在 2023 年支援的 AI 應用程式不會停機。
如前所述，推理佔其去年計算收入的 40%。 英偉達首席執行官黃仁勳最近在接受《連線》雜誌採訪時表示，如果如此多的計算能力用於推理，那就意味著“人工智慧終於成功了”。
市場上的投資者越來越多地支援專注於人工智慧推理的公司：在雲上執行的Modal Labs已經獲得了Redpoint和Amplify Partners的資助; Fireworks AI 為開發者構建 AI 製作平台，由 Benchmark 和 Sequoia 提供支援; 去年，Replicate 從投資者那裡籌集了 4000 萬美元，其中包括 Andreessen Horowitz，該公司旨在為使用者簡化和個性化開源 AI 模型。
與此同時，專注於生成式人工智慧平台的Together AI和專注於分布式機器學習的Anyscale等獨角獸初創公司也正在進入這一領域。 Srivastava預計亞馬遜或Microsoft可能是下乙個進入該領域的企業，“實際上，你也必須考慮超大規模企業，因為我認為他們確實看到了這是乙個競爭非常激烈的市場。 ”
越來越多的大型模型行業參與者開始關注AI的應用和實現，湧現出更豐富的行業應用案例，同時對AI推理的需求迅速擴大。
在此背景下，以巴騰為代表的企業，在前期產品和技術積累的基礎上，看到了市場發展的顯著趨勢，贏得了市場機遇。 可以看出，大型模型產業的階段性轉型發展，仍將為初創企業的發展帶來新的機遇。
*：forbes