Ollama活用ガイド
ローカルLLMとは？基本概念をわかりやすく解説
ローカルLLM とは、ChatGPTやClaudeのようなAIを、外部のサーバーではなく「自分のPC上」で動かす仕組みのことです。「ローカル（local）」は「自分のPC内」、「LLM」はAIが文章を読んで考える仕組みのことで、あわせて「自分のPC内で動くAI」を指します。
普段使うChatGPTやClaudeは、質問を打ち込むとその内容がインターネット経由でOpenAIやAnthropicのサーバーに送られ、回答が戻ってくる仕組みです。便利ですが、入力した内容が外部に送られるという点で、社外秘や個人情報を扱うには気を使います。また使うたびに費用がかかり、ネットが繋がらない環境では使えません。
ローカルLLMはこれらの問題をすべて解決します。AIのモデル（頭脳のファイル）を自分のPCにダウンロードして、以後はネットを使わず完全に手元だけで動かします。入力した内容は外に出ません。費用は電気代だけです。オフラインでも動きます。
そのローカルLLMを誰でも簡単に使えるようにしたツールが Ollama（オラマ） です。アメリカのOllama Inc.が開発したオープンソースのツールで、2023年8月のリリース以来急速に普及し、2026年現在GitHubで10万以上のスターを獲得するローカルLLMのデファクトスタンダード（事実上の標準）になっています。WindowsでもmacでもLinuxでも動き、完全無料で商用利用もできます（MITライセンス）。
山梨の中小企業や個人事業主にとっては、「高価な外部システムを入れなくても、まず自分のPCで試せる」という点がとても大きいです。地域の小さな現場でも始めやすいのが、ローカルLLMの強みです。
Ollamaでできること｜3つの核心メリット
① 入力データが完全にプライベートになる
ローカルLLMの最大のメリットは「データが外に出ない」ことです。
たとえば顧客リストや社内議事録、個人の健康データなどを要約・分析したいとき、クラウドAIに貼り付けるのは気が引けます。しかしOllamaなら、入力した内容はすべて自分のPC内で処理され、外部サーバーには一切送信されません。機密性の高いデータを安心してAIに渡せます。
ただし、会社のPCで使う場合は情報システム担当者への事前確認が必要です。組織によっては独自ルールが存在します。
② APIの費用がゼロになる
**クラウドAPIを大量に使うと費用がかさみます。**たとえばChatGPT APIで100万文字（約トークン換算）を処理すると約2,500円かかります。試行錯誤を繰り返す実験や、大量のテキストを処理するバッチ作業では費用がすぐ積み上がります。
Ollamaならモデルを一度ダウンロードした後は何度処理しても電気代のみ。思い切り試せるので実験の回数が増え、品質も上がりやすくなります。「費用が気になって試行回数を絞っていた」という悩みが消えます。
③ オフライン・社内ネットでも動く
**一度モデルをダウンロードすれば、それ以後はインターネット接続が不要です。**機内・工場の閉じたネットワーク・回線が不安定な出張先でも問題なく使えます。
外部APIが社内ネットワークでブロックされている環境でも、Ollamaはlocalhostで動くためネット接続なしでフル機能を使えます。
Ollamaの使い方｜4ステップで今日から動かす
ステップ1：Ollamaをインストールする
ollama.com にアクセスして「Download」ボタンをクリック。Windows・Mac・Linuxそれぞれのインストーラーが用意されています。ダウンロードしたファイルをダブルクリックして画面の指示に従うだけです。5分以内に完了します。
💡 初心者向けTips： Macの場合はHomebrewで
brew install ollamaとコマンド1本でもインストールできます。
ステップ2：使うモデルを選ぶ
**モデルとはAIの頭脳にあたるファイルです。**Ollamaには100種類以上のモデルが用意されています。迷ったらこの2つから選びましょう。
日本語をよく使う方： qwen2.5:7b（Alibaba製・日本語の精度が高い・RAM 16GB以上推奨）
古いPCや試し用に： gemma3:4b（Google製・RAM 8GBで動く・軽量で高速）
💡 初心者向けTips： モデル名の末尾の「7b」「4b」はモデルの大きさを表す数字です（Bはパラメータ数=頭脳の大きさ）。数字が大きいほど賢くなりますが、必要なメモリも増えます。
ステップ3：コマンドを1行打つ
ターミナル（Macなら「ターミナル」、Windowsなら「コマンドプロンプト」）を開いて以下を入力してEnterを押します。
ollama run qwen2.5:7b初回は自動でモデルのダウンロードが始まります（ファイルサイズ約4.4GB・数分〜十数分かかります）。完了すると「>>>」という入力待ちの記号が表示されます。
💡 初心者向けTips： ターミナルを開いたことがない方は「Mac ターミナル 開き方」で検索してみてください。黒い画面に白い文字が出てくるアプリです。
ステップ4：AIに日本語で話しかける
「>>>」が出たらAIの準備完了です。日本語でそのまま入力してEnterを押せば回答が返ってきます。
>>> この文章を要約してください：（要約したい文章をここに貼り付け）終了するときは「/bye」と入力するかCtrl+Cを押します。
スペック別モデルの選び方
| モデル名 | ファイルサイズ | 必要RAM目安 | こんな人向け |
|---|---|---|---|
| gemma3:4b | 約2.7GB | RAM 8GB〜 | 初めての人・古いPCでも動かしたい |
| llama3.2:3b | 約2GB | RAM 8GB〜 | 英語中心・Meta製・軽量で高速 |
| qwen2.5:7b | 約4.4GB | RAM 16GB〜 | 日本語重視・普段使いに最適なバランス |
| qwen3:14b | 約8GB | RAM 32GB〜 | 高品質を追求・M1 Mac以上で快適 |
Macユーザーへ： Apple SiliconのM1〜M4チップはGPU専用メモリを持たない代わりに、CPU・GPU・メモリが統合されているため、同価格帯のWindowsマシンよりモデルを効率よく動かせます。2026年3月からは「MLX」という最適化が公式に追加され、M1〜M4での推論速度がさらに向上しました。RAM 16GBのMacBook Proで7Bモデルを動かすと、毎秒20〜30文字のスピードで回答が返ってきます。
もっと便利に使う｜Open WebUI の導入
**コマンドラインが苦手な方には「Open WebUI」がおすすめです。**ブラウザ上でChatGPTのような画面からOllamaを操作できます。
Dockerという仕組みを使いますが、以下のコマンド1行を打つだけで起動できます。
docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=http://host.docker.internal:11434 ghcr.io/open-webui/open-webui:main起動後に http://localhost:3000 をブラウザで開くと、モデルを選んでチャットできる画面が表示されます。社内に展開してチームで使うこともできます。
活用シーン｜こんな場面でローカルLLMが活躍する
シーン① 社外秘データの要約・分析
⛔ Before：顧客情報や社内議事録をChatGPTに貼り付けていいのか毎回悩んでいた。
✅ After：Ollamaなら外部に送信されないので安心してそのまま貼り付けられるようになった。個人情報保護規定やコンプライアンスの観点で、クラウドAIへのデータ送信が制限されている組織は少なくありません。ローカルLLMなら「データが外に出ない」という設計上の保証があるため、そうした制約を回避できます。医療データ・財務データ・法務文書など、外部に送れないデータほど効果を発揮します。
山梨でも、顧客台帳、見積書、補助金関連書類、地域団体の議事録などを扱う場面では、外部送信なしで処理できる安心感がそのまま導入しやすさにつながります。
シーン② 大量テキストの処理・繰り返し実験
⛔ Before：API費用が気になって試行回数を絞っていたら、精度がなかなか上がらなかった。
✅ After：Ollamaなら電気代だけで何回でも試せる。思い切り実験できて品質が大幅に改善した。プロンプトの改善・長文の処理・データの一括変換など、同じ処理を何十回も繰り返す作業はクラウドAPIだとコストが積み上がります。ローカルLLMなら何回実行しても追加費用ゼロ。実験の質が上がります。
シーン③ オフライン・制限環境での利用
⛔ Before：出張先や社内ネットワークではAIがまったく使えなかった。
✅ After：モデルをあらかじめダウンロードしておくだけ。どこでもAIが使えるようになった。飛行機の中・ネットが不安定な地方出張・外部接続が制限されている工場や研究施設など、「ネットが使えないのにAIを使いたい」場面は意外と多いものです。Ollamaはモデルさえダウンロードしておけば完全オフラインで動きます。
地方創生 AIとして山梨の仕事に活かす方法
地方創生にAIを活かす目的は、ツールを導入することではなく、地域の仕事やサービスを改善することです。
山梨の観光、農業、製造業、商業、地域団体では、情報発信、問い合わせ対応、資料整理、業務の自動化などから始められます。
現場の担当者と目的を共有し、効果とリスクを確認しながら、小さな範囲から導入することが重要です。
まとめ：まず ollama run qwen2.5:7b を打ってみよう
今すぐ試すべき人は、社外秘データをAIで処理したい方・API費用を削減したい方・オフライン環境でAIを使いたい方・ChatGPTの月額費用を節約したい方です。Ollama自体は完全無料で、モデルも無料で使えます。
とくに山梨で少人数運営の会社や個人事業をしている方なら、まずはOllamaで「安全に試す」環境を自分の手元に持っておく価値があります。地域の仕事にAIを入れる最初の一歩として、かなり相性がよい選択肢です。
まず ollama.com からインストーラーをダウンロードして、ターミナルで ollama run qwen2.5:7b と打つだけで始められます。コマンドを打つのが不安な方は、Open WebUIを使えばブラウザ上でChatGPT風に操作できます。
クラウドAIは便利ですが、「自分のPC内で完結する安心感」はローカルLLMにしか得られない体験です。