神戸市がNECの国産生成AI「cotomi(コトミ)」を使って、2025年1〜3月に庁内業務の実証実験をやった、という話です。
「自治体の話でしょ?うちには関係ない」と思った方、ちょっと待ってください。 中身を読むと、RAGで庁内の制度・システム問い合わせに答えるアプリと行政文書を校正するAIエージェントの2本立てで、これは中小企業の「社内Q&A」「規程・マニュアル検索」とほぼ同じ構造です。
僕が注目したのは、削減率の派手な数字ではなく、「ハルシネーション対策を実証項目に明記している」ところです。 社内ナレッジ検索でいちばん怖いのは、もっともらしい嘘を返してくることなので、ここを最初に潰しにいく姿勢は中小企業にもそのまま使えます。
自治体の庁内業務の課題
自治体・中小企業の管理部門で似た構造の課題は、こんな感じです。
- 制度・システム操作の問い合わせが特定の詳しい人に集中する
- 過去の通達・規程・マニュアルが分散していて検索が効かない
- 公開文書の校正(表記揺れ・文書ルール準拠)が属人化している
- 「分かる人に聞く」が前提になっていて、属人化が解けない
このタイプの業務は、速く答えることより間違ったことを答えないことのほうが重要です。 だからこそ「とりあえずChatGPTに入れる」では事故るので、RAG+ハルシネーション対策の組み合わせが基本になります。
NEC cotomiとRAGをどう実証したか
公開情報(デジタル行政、2025-03-24)の範囲では、以下の構成です。
- 実証期間: 2025年1月〜3月末
- 実施機関: 神戸市 × 日本電気株式会社(NEC)
- 使用技術: 国産LLM「cotomi」+ RAG(文書検索) + AIエージェント
- 検証業務1: 庁内の制度・システム操作に関する問い合わせ対応(RAG活用アプリ+ハルシネーション対策)
- 検証業務2: 行政文書・広報文の校正補助(AIエージェントが文書作成規則に沿ってチェック)
ポイントは、1業務ではなく2業務を同時に試したところと、国産LLMを選択したところです。 自治体は機密性・データの国内保管要件が厳しいので、海外モデルではなく国産LLMで実証する流れは、地方公共団体だけでなく金融・医療・自治体取引の多い中小企業にもそのまま参考になります。
背景として、神戸市は「神戸市におけるAIの活用等に関する条例」を全国で初めて制定しており、AI活用のガバナンス基盤が先にあった上での実証である点も押さえておきたいところです。
実証で見えたことと数値の扱い
公開情報の範囲では、削減率・処理時間などの定量結果は明示されていません。 記事に「●%削減した」と書きたい気持ちはありますが、一次情報にない数字は書かない、が基本です。
公開情報で読み取れるのは、以下です。
- 国産LLM+RAG構成で自治体業務に適用する妥当性を確認するための実証フェーズ
- 問い合わせ対応・文書校正の2業務で並行検証
- ハルシネーション対策の有効性を検証項目に組み込み
つまり、これは「導入完了&成果出ました」ではなく、「横展開する前に妥当性を測る段階」の事例です。 ここを誤読して「神戸市はcotomi導入で●●%削減した」と書くと一次情報と乖離するので、中小企業として参考にする時も「PoCの組み立て方」を学ぶ材料として読むのが妥当です。
中小企業で再現するなら
ここからが本題です。年商5億規模の中小企業で「社内Q&A+文書校正」を同じ思想で実証するならどう削るか。
構成
| 項目 | 神戸市×NEC | 中小企業(年商5億・社員30名) |
|---|---|---|
| 対象 | 庁内問い合わせ+行政文書校正 | 社内ナレッジ問い合わせ+稟議書・社外文書校正 |
| ツール | NEC cotomi + 独自RAG基盤 | ChatGPT Team or Claude for Work(月3,000円/人〜、2026年5月時点。要最新価格確認) + 既存社内ストレージ |
| 月額費用 | (非公開・自治体規模) | 推定 月1万〜3万円(利用者5〜10名、2026年5月時点) |
| 初期費用 | 推定大規模 | 推定 50〜150万円(社内文書の棚卸し+RAGテンプレ設計+ハルシネーション検証ルール策定) |
| 体制 | 神戸市+NEC | 既存総務+外部支援月10〜20時間 |
| 期間 | 3ヶ月実証 | 2〜3ヶ月でPoC→運用判断 |
国産LLM縛り(機密性要件)がなければ、中小企業は既存のChatGPT Team・Claude for Work系で十分に同じ構造が組めます。 逆に、機密性が高くて社外サービスNGの場合は、オンプレ寄りの構成(国産LLM+社内RAG)を検討することになり、そのときは初期費用が一段上がります。
評価軸スコア
| 評価軸 | スコア |
|---|---|
| ROI(投資対効果) | ★★★☆☆ |
| 再現性(中小企業) | ★★★☆☆ |
| 難易度(低いほど簡単) | ★★★☆☆ |
(難易度=数字小さいほど簡単)
スコア根拠は以下です。
- ROIが中程度なのは、社内Q&Aは効果が「問い合わせ削減」「対応時間短縮」と定性的に出やすい一方、定量数値で語りにくいため
- 再現性は中程度。文書の棚卸し・RAG用整形の手間がそれなりにかかる
- 難易度は中程度。SaaSのチャット導入だけならノーコードだが、RAGの精度を上げる工程は経験が要る
前提条件・必要データ
- 社内のマニュアル・規程・FAQが、最低でもPDFやWordで電子化されている
- 問い合わせの中身が、ある程度パターン化されている(全件オーダーメイドではない)
- ハルシネーションを検証・許容する社内ルール(「AIの回答=最終回答ではない」)を周知できる
- 機密データの取り扱いポリシーが、SaaSに合わせて整理されている
失敗条件・適用しないケース
- 規程・マニュアルが紙のままで、まずデジタル化から始める必要がある
- 問い合わせが極端に少ない(月数十件など)、ROIが見合わない
- 「AIが回答=人間チェック省略」にしようとする(誤回答による事故リスク)
- 行政文書のような厳密な校正要件が必要なのに、汎用LLMで済ませようとする
「cotomiを入れれば社内Q&Aが完成する」わけではありません。
社内文書の棚卸し→RAG用整形→検証ルール策定→PoC→人間レビュー組み込み、という5ステップを踏んで初めて、神戸市の実証と同じ土俵に立てます。
特に「ハルシネーション対策を最初の検証項目に入れる」のは、規模問わずそのまま真似していい設計だと思います。
出典・参考
市野
愛知県岡崎市でAI活用支援を手がける一人社長。 中小企業の現場でAIを実装してきた経験から、他社事例を「うちで再現するには」の視点で読み解いて発信中。

