スマホで動く1.5Mパラメータの形態素解析エンジンを作った——これも一応ローカルAI、だよね?
概要
ケータイWatchのコラム「みんなのケータイ」で、筆者がスマートフォン上で動作する1.5Mパラメータの形態素解析エンジンを自作した体験を紹介。数百GB級の大規模LLMとは対照的に、超軽量な自然言語処理モデルをローカルで動かすという試みで、「ローカルAI」の定義や範囲を問い直す視点も含む。
詳細
- ローカルLLMブームでは「メモリはあればあるだけいい」状態になっているが、スマホでは大規模モデルは動かない
- 1.5Mパラメータという超軽量規模で形態素解析エンジンを構築
- スマートフォン上でオフライン動作できる
- 大規模LLMとは異なるアプローチの「ローカルAI」活用として注目
参照
- 出典: https://k-tai.watch.impress.co.jp/docs/column/minna/2117524.html
- はてなブックマーク数: 15