• LLM 動向
• プロダクト

PrismML、スマホで動く270億パラメータLLM「Bonsai 27B」をオープンソース公開

米AIスタートアップPrismMLが、スマートフォン上で動作する270億パラメータLLM「Bonsai 27B」を発表しました。通常、大容量メモリを必要とする27Bクラスのモデルを、独自の軽量化技術によりスマホで実行可能なサイズに圧縮。商用利用可能なオープンソースとして提供され、エッジAIの可能性を広げます。