自分のPCで「一番賢く使える」ローカルLLMを教えてくれる「whichllm」——実測ベンチでランク付け

概要

CLIツール「whichllm」v0.5.10（MITライセンス）が、自分のPCのGPU・CPUスペックを自動検出し、HuggingFaceのライブデータをもとに「動く中で最も賢い」ローカルLLMをランキング形式で提案する。単にVRAMに収まる最大モデルを示すのではなく、ベンチマーク実績・鮮度・量子化品質・実行速度などを総合スコアで評価して順位付けする点が特徴。

詳細

• VRAMに収まる複数モデルの中から、実ベンチマーク（LiveBench、Artificial Analysis、Aider、Chatbot Arena ELOなど）でスコアを比較してランク付け
• RTX 4090環境では32Bが収まるにもかかわらず27B（Qwen3.6）が1位になる——新しい世代かつベンチスコアが高いため
• NVIDIA・AMD・Apple Silicon・CPUのいずれにも対応、スペックを自動検出
• モデルデータは6時間、ベンチマークは24時間ごとに更新
• スコア要素：ベンチマーク成績・検証済みか・モデル鮮度・サイズ・実行形態（VRAM収容か否か）・生成速度・量子化品質・提供元の信頼性・人気度
• whichllm と打つだけで推奨モデルが表示され、そのままダウンロード＆ターミナルでチャット開始できる

参照

• 出典: https://www.techno-edge.net/article/2026/06/17/5192.html
• はてなブックマーク数: 45