AI（人工知能/ディープラーニング）

ノートPCで使うローカルAIは試行錯誤の末…結局「Gemma 3-12B」に落ち着きました

2025.03.21
この記事は約9分で読めます。

Gemma 3-12BノートPCでローカルAIを試しています。これまではLMスタジオでDeepSeek R1を使っていました。伝説のSE中島聡さんも「もうDeepSeekは使い物にならない」と指摘しているようで、やはり性能面など課題が多いみたいですね。うぅ…残念(T_T)。
そこで中嶋聡さんオススメの「phi4」と「Gemma3（ジェンマスリー）」を試してみました。いろいろなモデルを試し、回答精度や回答速度を考慮した結果、私のノートPCでは「Gemma 3-12B」 が最適！ということで落ち着きました。

LMスタジオを使ったローカルAI運用

LMスタジオというローカルAIについて

今回のローカルAI環境構築で活躍したのが 「LM Studio」 です。
簡単に言うと、ローカルPCでAIモデルを手軽に動かせるGUIツール で、特に GemmaやLlamaなどのオープンソースモデル を簡単に試せるのがポイントです。

理系でない人でも「LM Studio」 ならノーコードなので使えます。文系やお笑い系の人はぜひ使ってみてください。

「DeepSeek-R1」をノートPCだけで動くローカルAIに！「LM Studio」で「DeepSeek-R1-Distill-Qwen-14B-Japanese」を使う設定にしました
サイバーエージェントさんが「DeepSeek-R1」を日本語でのチューニングを強化したローカルAIデータを公開しています。このファイルを使えばノートPCで、インターネット接続なしでAIが使えるようになります。つまり「ローカルAI」が実現できるのですが、このローカルAIが「推論できるR1」ならかなり強力です。実際に私の非力なノートPCで動くかどうかを試してみました。
www.dm2.co.jp
2025.02.06

私は、このLMスタジオを使いDeepSeekR1（サイバーエージェントが強化学習した日本語バージョン）を試していました。

✅ LM Studioの特徴

🔹 インストールが簡単！
🔹 直感的なGUIでモデル管理がラク
🔹 Gemma、Llama、Mistralなどの多くのAIモデルに対応
🔹 モデルの量子化バージョン（軽量版）も選べる
🔹 オフライン環境でも動作可能！プライバシーも安心

💡 こんな人におすすめ！

✅ コマンド操作に自信がないけどローカルAIを試したい人
✅ PCのスペックに応じたAIモデルを選びたい人
✅ APIを使わずにオフラインでAIを活用したい人

LM Studioを使えば、ワンクリックでAIモデルをダウンロード＆起動 できるので、初心者でもローカル環境でAIを試すのにピッタリです。ローカルAIに興味がある人は、ぜひ試してみてください。

ローカルAIが現実的になった今、これからのAI活用動向「５つのポイント」を踏まえておきましょう
まぐまぐニュースの有料メルマガ記事『中島聡がガチでテスト、「今一番賢いローカルAI」のすごい実力。Phi-4やGemma3を知らない人、そろそろヤバいかもです』を読みました。3月18日発行のこの記事では、あの伝説のエンジニアと言われている中島聡さんがエンタープライズ市場（主に大企業や中堅企業、公的機関など規模が大きく複雑な組織構造を持つ法人市場）におけるAI活用の今後について詳しく解説しています。...
www.dm2.co.jp
2025.03.20

中島聡さんのローカルAIについての記事は上記のとおりです。これも参考にしてください。

最初はGemma 3-27Bを試したけど…

まずGoogleの「Gemma 3-27B」 の量子化モデル（Q4_M）を試していました。

「より高性能なモデルを！」と意気込んでいたものの、実際に使ってみると、動作が重い…😓
私が使っているノートPCのスペック（Ryzen7000シリーズで32MBのメモリ）ではギリギリ動くけど、遅くて快適とは言えない状態でした。

軽量モデル「Phi 4-mini」も試してみた！でも…精度が微妙？🤔

ローカルAI環境をいろいろ試す中で、今度はMicrosoftの「Phi 4-mini instruct」 を試してみました。
軽量モデルということで、サクサク動くのを期待しつつ…いざテスト。

「Phi 4-mini instruct」 のスペック

📌 モデル名：Phi 4-mini instruct (Microsoft)
📌 量子化：Q4_K_M
📌 サイズ：2.49GB（超コンパクト！）
📌 ダウンロード元：LM Studio Community

このモデルは、とにかく軽量で回答速度が早い！ 2.49GBという小ささなので、低スペックPCでも動かしやすいのがポイントです。回答速度は通常のネットで使っている生成AIとあまり遜色ないくらい早いです。

しかし、回答精度がいまいちでした。モデルがコンパクトだから仕方ないのかもしれませんが、「ワードプレスの問い合わせフォームについて」質問したところ「マイクロソフトWordを使う方法」みたいなトンチンカンな回答しか得られませんでした。現実的には使えないな…という感想です。

軽量モデル「Gemma 3-12B」に変更！

Gemma 3-12B

そこで、最終的に選んだのが**「Gemma 3-12B」** のQ4_K_M量子化バージョン（8.15GB）。
27Bに比べて軽量で、サクサク動作！ しかも、会話の応答速度も大きく向上しました。💡

📌 Gemma 3-12Bのメリット ✅ 動作が軽快！ 低スペックPCでもOK
✅ 8.15GBと省メモリ → VRAM16GB以下の環境でも余裕
✅ 会話性能はそこそこ良好！

「Q4_K_M」量子化は、モデルの精度と軽量化のバランスが取れていて、ローカルAIを実用レベルで動かすにはピッタリでした！

先程のワードプレスの問い合わせフォームに関する質問にもまずまずの回答内容でした。

AIモデル選びのポイント

今回試したAIモデルの中で、ざっくりとした選択基準はこんな感じ👇

モデル サイズ 動作の軽さ 精度 おすすめ用途
Phi 4-mini instruct 2.49GB ◎（超軽い） △（微妙） 軽量PC向け、お試しAI
Gemma 3-12B 8.15GB ○（比較的軽い） ◎（実用的） ローカルAIのメイン運用
Gemma 3-27B 16.55GB △（重い） ◎（高精度） 高スペックPC向け

27Bモデルはパワーがあるものの、ローカル環境では動作が遅いのがネック。
一方、12Bなら比較的軽量で、会話もそこそこまともに成立するので、実用的です。

▼実際にインストールしたAIモデル

最終結論：「Gemma 3-12B」が現状ではベストかな

結局、ローカルAIをサクサク動かしたいなら、Gemma 3-12B（Q4_K_M） がベストチョイスという結論に至りました。LM Studio経由で簡単に導入できるので、ローカル環境でAIを試してみたい方にはおすすめです。

さて、しばらくはこのモデルで運用しつつ、もう少しチューニングしてみようと思います。また進展があれば報告しますね。

補足：Gemma 3-12B（Q4_K_M）による回答例

どもども遠田
どもども遠田

ワードプレスで問い合わせフォームを設置するための方法をおしえて

AIの回答
AIの回答

WordPress で問い合わせフォームを設置する方法はいくつかあります。主な方法と、それぞれのメリット・デメリットを以下にまとめます。

以下は、Gemma 3-12B（Q4_K_M） が回答した内容です。

WordPress で問い合わせフォームを設置する方法はいくつかあります。主な方法と、それぞれのメリット・デメリットを以下にまとめます。

1. プラグインを利用する (推奨)

2. テーマにフォーム作成機能が含まれている場合

  • 概要: 一部のWordPressテーマには、問い合わせフォームを作成・設置する機能が組み込まれています。
  • メリット:
    • プラグインを別途インストールする必要がない
    • テーマとの連携がスムーズ
  • デメリット:
    • テーマに依存するため、カスタマイズ性が低い場合がある
    • テーマによってはフォーム作成機能が限定的

3. コードを直接記述する (上級者向け)

  • 概要: HTML, CSS, PHP などのコードを直接記述して問い合わせフォームを作成する方法です。
  • メリット:
    • 自由度が高い
    • 完全にオリジナルのフォームを作成できる
  • デメリット:
    • 専門知識が必要
    • セキュリティ対策やスパム対策などを自分で実装する必要がある

具体的な手順 (プラグインを利用する場合: Contact Form 7 の例)

  1. プラグインのインストール: WordPress 管理画面から「プラグイン」→「新規追加」で “Contact Form 7” を検索し、インストールして有効化します。
  2. フォームの作成: 「お問い合わせ」メニューに移動し、「新しいフォームを追加」をクリックします。
  3. フォームの設定: フォームのタイトルを設定し、メールの受信設定 (宛先メールアドレス、件名など) を行います。
  4. フォームの編集: フォームに表示する項目 (名前、メールアドレス、メッセージなど) を追加・編集します。
  5. ショートコードの取得: 作成したフォームのショートコードをコピーします (例: [contact-form-7 id="123" title="お問い合わせフォーム"])。
  6. 設置場所への貼り付け: 投稿や固定ページなどのコンテンツエディタに、コピーしたショートコードを貼り付けます。

補足事項:

  • スパム対策: プラグインによっては、reCAPTCHA などのスパム対策機能が利用できます。
  • メール通知: フォーム送信時に管理者へメール通知を設定することで、問い合わせ内容を確認できます。
  • セキュリティ: お問い合わせフォームは、悪意のあるユーザーからの攻撃を受ける可能性があります。入力データの検証や、ファイルアップロードの制限など、セキュリティ対策をしっかりと行うようにしましょう。
  • GDPR (EU一般データ保護規則): 問い合わせフォームで個人情報を収集する場合は、プライバシーポリシーへの同意を得るなどの対応が必要です。

どの方法を選ぶかは、あなたのスキルレベルや必要な機能によって異なります。初心者の方には、プラグインを利用する方法がおすすめです。

もし、具体的なプラグインの使い方が分からない場合や、他の方法について知りたい場合は、お気軽にご質問ください。

それなりの回答精度がそれなりの回答速度で表示されるので、現状ではベストの選択かなと思いました。ローカルAIでここまでできるようになるとは時代の進化は早いものです。