蘋果可能會使用新的快閃記憶體技術使iPhone和其他裝置執行LLM

人工智慧（AI）是今年業界的熱門話題，ChatGPT等各種AI驅動的應用受到了眾多使用者的歡迎，需要大型語言模型（LLMs）來支援。 雖然蘋果尚未帶來人工智慧的重量級功能，但最近公布的**表明蘋果在人工智慧研究上投入了大量精力。

據TechPowerUp報道，蘋果的研究人員正在使用新的快閃記憶體利用技術，該技術使用快閃記憶體晶元來儲存來自人工智慧模型的資料，使記憶體受限的裝置能夠執行大型語言模型，如iPhone。 考慮到大型語言模型需要大量的計算，使用硬體資源非常昂貴，加速器和大記憶體也是必不可少的，而蘋果的新方法就是為了解決這些問題。 據蘋果研究人員介紹，通過將AI模型資料儲存在快閃記憶體上，並在必要時將其傳輸到記憶體中，涉及兩項關鍵技術：一種是視窗化，即AI模型不會每次都載入新資料，而是復用部分已經處理過的資料，從而減少讀取記憶體的次數，使處理過程變得高效第二種是行列綑綁，它通過更有效地對資料進行分組來加快處理速度，以便可以更快地從快閃記憶體中讀取資料。

蘋果聲稱，借助新技術，iPhone 可以執行兩倍於可用記憶體容量的 AI 模型，M1 Max 的 CPU 可以執行大型語言模型的 4 到 5 倍，GPU 可以執行 20 到 25 次，大大擴充套件了適用性和可訪問性。