Zennで公開されたAshさん(九州工業大学3年生・株式会社mocomoco/コテラス所属)の記事です。 テーマは「AIエージェント設計における、AIをいかに『使わない』か」という視点。
「AIをフル活用しろ」の逆張り、というより「AIに任せる範囲を絞ることで、初めて実運用できる」という設計論です。 中小企業の現場で「AI入れたけど確認コストが増えた」という状況にドンピシャで刺さります。
僕が注目したのは、業務を6段階に分解して「AIが担うのは1段階だけ」と割り切っている点です。 ここを設計せずに「AI導入」だけ進めると、ほぼ確実に「Human in the Loop」で止まります。
AIエージェント設計の課題
「AIエージェントで業務を自動化しよう」と考えた時、こんな壁にぶつかります。
- 全工程をAIに任せると、精度が担保できず全件チェックになる
- 「AIが判断しました」を人間が毎回確認していると、むしろ工数が増える
- どこからどこまでAIに任せるかの線引きが決まっていない
- 「そもそもAIを使わない選択肢」を検討していない
Ashさんの記事は、この最後の「AIを使わない選択」を先に検討することの重要性を、実装者目線で書いています。
「Human in the Loop」から「Human on Exception」へ
記事内で紹介されている2つの状態は以下です(Zenn、2026-08-14)。
- Human in the Loop: AIの出力を人間が毎回確認する状態
- Human on Exception: 例外時のみ人間が介入する状態
前者は「AI導入直後の姿」で、後者が「運用として回る姿」。 移行のためには「人間が確認しなくてもよいケース」を意図的に増やしていく設計が必要、というのが骨子です。
裏を返すと、Human in the Loopのまま放置している職場は、AI導入コストと確認コストの両方を払い続けていることになります。
請求書処理を6段階に分解した例
記事内で提示されている請求書処理の6段階は以下です。
- 段階1: PDFから情報抽出
- 段階2: ラベル付与
- 段階3: AIで明細部分を構造化
- 段階4: プログラムで合計計算
- 段階5: 機械的に照合
- 段階6: 例外検知時のみ人間確認
ポイントは、AIが担うのは段階3(非構造化データの構造化)だけという点です。 残りの段階は既存のOCR・プログラム処理・ルールベース照合で十分機能します。
記事内では、この設計で「1000件中3件」だけが人間確認対象になり、AIの構造化精度は「99%正確」と報告されています。 言い換えると、997件は人間の確認なしで通せる、という運用に近づけるための分解、ということです。
この設計思想の本質
一次情報の範囲では、「AIエージェント=万能な自動化ツール」ではなく、 「AIエージェント=非構造化データを構造化するだけの部品」と割り切っている点が特徴です。
裏を返すと、以下のような状況で効きます。
- 全工程をAIに任せる設計にして、精度が出ずに全件チェックしている時
- OCRやルールベース処理で済む部分まで、LLMに投げてしまっている時
- 「AIで自動化した」と言いつつ、人間の確認工数が減っていない時
派手な削減時間ではなく、「AIをどこに置くかの位置設計」を先にやろう、というトーンです。
中小企業で再現するなら
ここからが本題です。年商5億規模の会社で、この「AIを使わない設計」を文書処理業務に取り入れるならどう組み立てるか。
構成
| 項目 | Zenn元記事(個人検証) | 中小企業(年商5億・社員30名) |
|---|---|---|
| 対象 | 個人の実装検証 | 経理・総務の文書処理業務 |
| ツール | AIエージェント+OCR+ルール照合 | ChatGPT/Claude API+既存OCR(月1〜3万円、2026年9月時点。要最新価格確認) |
| データ | 請求書PDFサンプル | 月間100〜500件の請求書・発注書PDF |
| 月額費用 | 検証環境 | 推定 月3〜8万円(API従量課金+OCRサービス、2026年9月時点) |
| 初期費用 | ほぼゼロ(個人検証) | 推定 50〜150万円(業務分解ワークショップ+PoC実装) |
| 体制 | 個人1名 | 経理担当+外部エンジニア月10〜20時間 |
| 期間 | 個人検証 | 1ヶ月で業務6分解→2〜3ヶ月でPoC→定着 |
評価軸スコア
| 評価軸 | スコア |
|---|---|
| ROI(投資対効果) | ★★★★☆ |
| 再現性(中小企業) | ★★★☆☆ |
| 難易度(低いほど簡単) | ★★★★☆ |
(難易度=数字小さいほど簡単)
スコア根拠は以下です。
- ROIが高いのは、確認工数の削減が人件費に直結するため
- 再現性は中程度。業務を6段階に分解できる担当者が必要
- 難易度は高め。ルールベース処理とAI処理を組み合わせる設計スキルが要る
前提条件・必要データ
- 対象業務の入出力が明確(何が入って、何が出れば正解か)
- 業務を工程に分解できる担当者がいる(現場のベテラン推奨)
- 全工程のうち、ルールで書ける部分・書けない部分を仕分けできる
- 「AIが判断した結果を人間がどう受け取るか」の運用ルールが決まる
失敗条件・適用しないケース
- 全工程をAIに丸投げしたい(この設計はAI比重を下げる方向)
- 「AI導入した」を成果指標にしていて、実運用の確認工数を測っていない
- 業務が属人化していて、工程分解できる人がいない
- 例外検知の仕組み(信頼度スコア等)を実装する体力がない
「AIエージェントを入れれば業務が自動化される」わけではありません。
業務を工程分解→AIに任せる工程を1つに絞る→残りはルール処理→例外だけ人が見る、という順序で組み立てて初めて、Human on Exceptionが見えてきます。
派手なAI活用ではないですが、「AI導入後に確認コストで潰れる」パターンを回避するための、地味で本質的な設計論です。
出典・参考
市野
愛知県岡崎市でAI活用支援を手がける一人社長。 中小企業の現場でAIを実装してきた経験から、他社事例を「うちで再現するには」の視点で読み解いて発信中。
