法國初創公司Mistralai最近在人工智慧領域引起了轟動。 他們剛剛發布了世界上第乙個基於MOE（Mixture of Experts）技術的大型語言模型MISTRAL-8x7B-MOE。 該模型由 8 個具有 70 億個引數的專家網路組成，每個代幣的處理由兩位最相關的專家進行。
MOE技術的應用使Mistralai的這種新模型在處理複雜任務時更加高效。 它能夠比傳統的大型整體模型更準確地處理各種型別的資料。 這種模型設計方法不僅提高了處理效率，而且增強了模型的靈活性和適應性。
此外，Mistralai還宣布Microsoft已入股該公司，這無疑為Mistralai的發展注入了強勁動力。 同時，Mistral-8x7B-MOE在數值上碾壓了Meta的AI模型，進一步證明了其在AI領域的領先地位。
總體而言，Mistralai 發布的 MISTRAL-8x7B-MOE 大型語言模型是一項具有里程碑意義的創新。 這標誌著AI技術在處理複雜任務方面的又一重要突破，也開啟了AI領域發展的新篇章。
國際新聞