GoogleのGemma 4をベースにしたファインチューンモデル「G4-MeroMero-26B-A4B-it-uncensored-heretic」がリリースされました。KLD 0.0152という極めて低い知識蒸留損失を維持しつつ、拒否率を100回中わずか12回にまで低減した注目のローカルLLMです。
📰 ソース：Reddit r/LocalLLaMA / 海外AI技術コミュニティ
- Gemma 4（26Bパラメータ、アクティブ4B）をベースに「制限解除」ファインチューンを施したモデル
- KLD（カルバック・ライブラー・ダイバージェンス）0.0152で、ベースモデルの知識をほぼ完全に保持
- 拒否率が100回テスト中12回と大幅に低減。Ollama・LM Studio・Janで動作可能
G4-MeroMero-26B-A4B-it-uncensoとは何か
Reddit r/LocalLLaMAコミュニティで話題になっている「G4-MeroMero-26B-A4B-it-uncensored-heretic」は、Googleが公開したオープンウェイトモデル「gemma-4-26B-A4B-it」をベースにした、いわゆる「制限解除（uncensored）」ファインチューンモデルです。
Mixture of Experts（MoE）アーキテクチャの特徴
ベースとなるGemma 4 26B-A4Bは、総パラメータ数が約260億（26B）でありながら、推論時に実際にアクティブになるのは約40億パラメータ（4B）のみというMixture of Experts（MoE）アーキテクチャを採用しています。これにより、26Bクラスの知識量を持ちながらも、4Bモデル並みの軽量な推論コストで動作するのが最大の魅力です。
「uncensored-heretic」の意味
モデル名に含まれる「uncensored」は、元モデルに組み込まれた安全性フィルター（特定の話題への回答拒否）を緩和するファインチューンが施されていることを示しています。「heretic（異端者）」というサフィックスは、このモデルシリーズ固有のバリアント名です。こうした制限解除モデルは、創作活動やセキュリティリサーチなど、フィルターが障壁となるユースケースでローカルLLMユーザーに需要があります。
G4-MeroMero-26B-A4B-it-uncensoの技術的詳細
KLD 0.0152の意味
KLD（カルバック・ライブラー・ダイバージェンス）は、ファインチューン後のモデルがベースモデルからどれだけ「離れた」かを示す指標です。値が小さいほど元のモデルの知識や能力が保持されていることを意味します。G4-MeroMeroのKLD 0.0152は極めて低い数値であり、制限解除のためのファインチューンでありながら、Gemma 4が持つ推論能力・知識をほぼ損なっていないことを示しています。
拒否率 12/100
モデルのリリースノートでは、100件のテストプロンプトに対して拒否（回答を断る）が12回だったと報告されています。完全なゼロではないため、極端なプロンプトに対しては依然として一定のガードレールが残っている状態です。これは、無差別に全制限を解除するのではなく、実用上の利便性とのバランスを取ったチューニングと言えます。
モデルの基本スペック
| 項目 | 詳細 |
|---|---|
| ベースモデル | gemma-4-26B-A4B-it |
| 総パラメータ数 | 約26B（260億） |
| アクティブパラメータ数 | 約4B（40億） |
| アーキテクチャ | Mixture of Experts（MoE） |
| KLD | 0.0152 |
| 拒否率 | 12/100 |
| ライセンス | Gemma利用規約に準拠（公式ページで要確認） |
ベースモデルとの比較
MeroMeroの位置づけを理解するために、ベースモデルおよび同系統のモデルとの比較を整理します。
| モデル | パラメータ | アクティブ | 制限解除 | 備考 |
|---|---|---|---|---|
| gemma-4-26B-A4B-it | 26B | 4B | ❌（標準フィルターあり） | Google公式 |
| G4-MeroMero（本モデル） | 26B | 4B | ✅（KLD 0.0152） | 拒否率12% |
| gemma-4-12B-it | 12B | 12B | ❌ | Dense型、小規模向け |
| gemma-4-27B-it | 27B | 27B | ❌ | Dense型、高性能 |
MoEアーキテクチャの恩恵で、メモリ使用量は26Bフルモデルよりも大幅に少なく、実質4Bモデル程度の推論速度を実現しながら、26B相当の知識を持つ点が最大の優位性です。ただし、ベンチマークスコアの詳細はモデルカードや公式リポジトリで最新情報をご確認ください。
実践：始め方
G4-MeroMeroをローカル環境で動かすための主要な方法を紹介します。いずれもGGUF形式の量子化モデルが公開されていれば利用可能です（公式リポジトリで提供状況を確認してください）。
ステップ1：動作環境の確認
MoEモデルのため、実質的なVRAM消費はアクティブパラメータ（4B）に依存します。Q4量子化であれば6〜8GB程度のVRAMで動作する可能性がありますが、KVキャッシュなどの要因でそれ以上必要になる場合もあります。環境に合った量子化レベルを選択してください。
ステップ2：ツールの選択
- Ollama — CLIベースで最も手軽。
ollama runコマンドで即座に利用開始できます - LM Studio — GUIで操作したい場合に最適。GGUFファイルをドラッグ＆ドロップするだけ
- Jan — オープンソースのChatGPT風UIで、日常利用に向いています
ステップ3：Ollamaでの実行例
# Ollamaがモデルレジストリに登録されている場合
ollama run g4-meromero-26b-a4b-it-uncensored-heretic
# GGUFファイルから直接読み込む場合はModelfileを作成
cat <<EOF > Modelfile
FROM ./g4-meromero-26b-a4b-it-uncensored-heretic.Q4_K_M.gguf
EOF
ollama create meromero -f Modelfile
ollama run meromero※モデル名やファイル名は公式リポジトリで正確な名称をご確認ください。
ステップ4：動作テスト
まずは簡単な質問を投げて、応答品質と速度を確認しましょう。日本語プロンプトでの応答品質もこの段階でチェックできます。
ステップ5：パラメータ調整
temperatureやtop_pなどの生成パラメータを調整して、用途に合った出力を得られるように最適化します。創作用途であればtemperatureを高め（0.8〜1.2）、正確性重視であれば低め（0.3〜0.5）がおすすめです。
🇯🇵 日本での活用ポイント
日本語対応状況
ベースとなるGemma 4は多言語対応を謳っており、日本語での基本的な会話・文章生成は可能です。ただし、MeroMeroのファインチューンデータに日本語が含まれているかどうかは公式情報を確認する必要があります。日本語タスクでの精度が気になる場合は、実際にいくつかのプロンプトでテストしてから本番利用することを推奨します。
具体的な活用シナリオ
- 小説・シナリオの創作支援 — 標準モデルが拒否しがちなダークファンタジーやサスペンス系の描写も、制限解除モデルであればスムーズに生成できます
- セキュリティリサーチ — 脆弱性の解析やペネトレーションテストのシナリオ作成で、標準モデルのフィルターに阻まれるケースを回避できます
- 社内プライベートLLM — データを外部に出せない環境で、制約の少ないアシスタントとして運用できます。MoEアーキテクチャにより、比較的控えめなGPU環境でも動作する点が日本の中小企業にとっても導入しやすい利点です
注意すべき法的・倫理的観点
日本では2024年に成立したAI関連のガイドラインにおいて、AIの出力に関する責任は利用者側にあるとされる方向性が示されています。制限解除モデルを業務で利用する場合、出力内容の確認・フィルタリングは利用者側で実施する必要があります。また、Gemma利用規約（Google’s Gemma Terms of Use）の遵守も求められるため、商用利用時には必ずライセンス条件を確認してください。
💡 pikl編集部の視点
pikl編集部として、このモデルのリリースには「ローカルLLMエコシステムの成熟」を強く感じています。KLD 0.0152という数値は、単に制限を外しただけでなく、ベースモデルの知識をほとんど劣化させずにチューニングできる技術が確立されつつあることを意味します。かつての制限解除モデルは、フィルターを外す代償として全体的な品質が大きく低下するケースが目立ちましたが、現在はDPO（Direct Preference Optimization）やターゲットを絞ったLoRAチューニングの手法が洗練され、「性能を保ったまま制限だけを緩和する」ことが現実的になっています。
特に注目すべきは、MoEアーキテクチャとの組み合わせです。26Bパラメータの知識を持ちながら4Bのコストで動く構造は、ローカル環境での実用性を飛躍的に高めます。たとえば、RTX 4060（8GB VRAM）クラスのGPUでもQ4量子化で動作する可能性があり、これは日本の個人開発者やスタートアップにとって大きなアドバンテージと考えます。高価なA100やH100がなくても、知識量の多いモデルを手元で動かせる時代が来ているのです。
一方で、「拒否率12%」という数字を見ると、完全な制限解除ではないことも分かります。pikl編集部としては、これはむしろ好ましい設計と考えます。完全に制限を取り払ったモデルは、意図しない有害出力のリスクが高く、業務利用のハードルが上がります。12%の拒否率は「過度な安全フィルターによる使い勝手の悪さは解消しつつ、最低限のガードレールは残す」という絶妙なバランスであり、実務で導入する際の説明コストも下がるでしょう。今後、Gemma 4ベースのファインチューンモデルはさらに増えることが予想され、ローカルLLM市場における選択肢の多様化がますます加速すると見ています。
まとめ
- G4-MeroMero-26B-A4B-it-uncensored-hereticは、Gemma 4のMoEアーキテクチャを活かし、26Bの知識を4Bのコストで動かせる制限解除モデル
- KLD 0.0152で知識保持率が極めて高く、拒否率12/100と実用的なバランスを実現
- Ollama・LM Studio・Janなどの主要ツールで動作し、日本の開発者もローカル環境で手軽に試せる
関連ツール
| ツール名 | 種類 | 特徴 | 対応OS |
|---|---|---|---|
| Ollama | CLI | コマンド一発で起動。APIサーバーとしても利用可 | macOS / Linux / Windows |
| LM Studio | GUI | GGUFモデルのブラウズ＆実行が直感的 | macOS / Linux / Windows |
| Jan | GUI | ChatGPT風UIでオープンソース。プラグイン拡張可 | macOS / Linux / Windows |
よくある質問
Q: G4-MeroMeroはどのくらいのGPUメモリで動きますか？
MoEアーキテクチャでアクティブパラメータは約4Bのため、Q4量子化版であれば6〜8GB程度のVRAMで動作する可能性があります。ただし、コンテキスト長やバッチサイズにより変動するため、公式リポジトリの推奨環境をご確認ください。
Q: KLD 0.0152とは具体的に何を意味しますか？
KLD（カルバック・ライブラー・ダイバージェンス）はファインチューン前後の確率分布の差を測る指標です。0に近いほどベースモデルの能力が保持されていることを意味し、0.0152はほぼ元モデルと同等の知識・推論能力を維持していることを示します。
Q: 日本語で使えますか？
ベースモデルのGemma 4が多言語対応しているため、日本語での基本的な会話・文章生成は可能です。ただし、ファインチューンデータの言語構成により精度が変わる可能性があるため、実際にテストしてからの利用を推奨します。
Q: 制限解除モデルを業務で使っても問題ありませんか？
出力内容の責任は利用者にあります。業務で使用する場合は、出力の人間によるレビューや社内ガイドラインの策定が重要です。また、Gemmaの利用規約に準拠する必要があるため、商用利用時はライセンス条件を必ずご確認ください。
Q: Ollamaで使うにはどうすればいいですか？
Ollamaのモデルレジストリに登録されている場合はollama runコマンドで即座に利用可能です。未登録の場合は、GGUFファイルをダウンロードしModelfileを作成してollama createコマンドで登録する方法があります。詳細は記事内の「実践：始め方」セクションをご参照ください。
