AIはもうクラウド不要?Googleが公開したローカルAIモデル「Gemma 4 12B」の衝撃
概要
Googleが公開したGemma 4 12Bは、16GBのVRAMを搭載した一般的なノートPCでローカル実行できるミッドサイズのマルチモーダルモデル。視覚と音声をエンコーダなしで直接バックボーンに統合する設計で、26Bに近い性能を半分以下のメモリで実現する。
詳細
- 一般的なノートPC(16GB VRAM/統合メモリ)でローカル動作可能なサイズ
- 視覚・音声入力を別エンコーダに通さず言語モデルのバックボーンに直接統合(レイテンシ・メモリ効率を改善)
- Gemma 4シリーズで初めてネイティブオーディオ入力を標準搭載
- マルチトークン予測(MTP)ドラフターで応答遅延を低減
- 標準ベンチマークで26Bモデルに近い性能、総メモリは半分以下
- Gemma 4シリーズは累計1.5億ダウンロード超
参照
- 出典: https://dxmagazine.jp/news/ykmt26/
- はてなブックマーク数: 83