01
AI エージェントとは、何が違うのか
総務省と経済産業省の「AI 事業者ガイドライン 第 1.2 版」（2026 年 3 月）では、AI エージェントを「特定の目標を達成するために、環境を感知し自律的に行動する AI システム」と定義しています。ポイントは「行動する」ことです。
| チャットで答える AI | AI エージェント | |
|---|---|---|
| できること | 質問に文章で答える | メール送信・ファイル操作・システムへの登録などを自分で行う |
| だまされたとき | おかしな回答が出る | おかしな操作が実行される |
| 被害の大きさ | 回答の範囲にとどまる | 渡した権限の範囲まで広がる |
つまり、AI エージェントの危険の大きさは「AI の賢さ」ではなく「AI に渡した権限の広さ」で決まります。
02
どうやってだまされるのか
AI に関する代表的なリスクをまとめた「OWASP Top 10 for LLM Applications 2025」では、1 位に「プロンプトインジェクション」、6 位に「過剰な権限（Excessive Agency）」が挙げられています。AI エージェントでは、この 2 つが組み合わさると被害が大きくなります。
- 読ませた文書に指示が仕込まれている: 受け取ったメールや Web ページ、取引先の資料に「この内容を外部に送れ」などの指示が書かれていて、AI がそれに従う
- AI は「読む内容」と「命令」を厳密に区別できない: 人が見れば無視する一文でも、AI は指示として受け取ってしまうことがある
- 権限が広いほど被害が広がる: 社内のファイルを全部読めて、メールも送れる AI なら、読んだ情報を外に送れてしまう
IPA の「AI セキュリティ短信」でも、AI エージェントやその開発基盤で、こうした仕組みを突いた脆弱性が繰り返し報告されています。
03
権限の決め方 — 4 つの原則
- 1必要な最小限の権限だけを渡す: 「請求書のフォルダだけ読める」「下書きは作れるが送信はできない」のように、業務に必要な範囲に絞る
- 2取り消せない操作は人が承認する: 送金・メールの外部送信・データの削除・契約の確定などは、AI が準備して人が最後に押す
- 3外から来た文書を読ませる AI と、操作できる AI を分ける: 受け取ったメールを要約する AI に、送信や削除の権限を持たせない
- 4何をしたかを記録し、上限を決める: AI の操作をすべて記録し、1 日あたりの件数や金額の上限を設ける
AI 事業者ガイドラインでも、AI を業務で使う事業者（AI 利用者）の役割が整理されています。「AI がやったこと」も、使った会社の責任になる前提で設計しましょう。
04
任せてよい業務、人が残るべき業務
| 区分 | 例 | AI への任せ方 |
|---|---|---|
| 任せやすい | データの集計・整理、文章の下書き、社内の資料検索 | AI が実行し、結果を人が確認 |
| 準備まで任せる | メールの返信、見積書の作成、データの登録 | AI が下書きし、人が承認してから実行 |
| 人が行う | 送金・支払い、契約の確定、顧客データの削除、権限の変更 | AI には実行させない |
最初は「任せやすい」業務から始め、記録を見て問題がないことを確かめながら範囲を広げていくのが安全です。
05
導入前のチェックリスト
- AI に渡すアカウントは、人のアカウントとは別に用意したか
- そのアカウントの権限は、業務に必要な範囲だけになっているか
- 取り消せない操作に、人の承認が入っているか
- 外部から受け取った文書を読む処理と、操作する処理が分かれているか
- AI の操作の記録が残り、後から確認できるか
- 件数や金額の上限と、超えたときの通知があるか
- AI を止める方法（停止の手順と担当者）が決まっているか
Q&A
よくあるご質問
- AI エージェントとチャットボットの違いは何ですか？
- チャットボットは主に文章で答えるだけですが、AI エージェントはメールの送信やファイルの操作、システムへの登録などを自分で行います。そのため、だまされたときに実際の操作まで起きてしまう点が大きく違います。
- プロンプトインジェクションは対策ソフトで防げますか？
- 検知の仕組みはありますが、完全に防ぐ方法は今のところありません。対策の中心は、だまされても大きな被害にならないように、権限を絞り、取り消せない操作に人の承認を入れることです。
- 業務の自動化に AI を使うのは危ないですか？
- 権限の設計しだいです。データの集計や下書きのように、結果を人が確認できる業務から始めれば、大きなリスクなく効果を出せます。送金や削除など取り消せない操作は、人が行う形を残しましょう。
- AI が勝手に行った操作の責任は誰にありますか？
- AI を業務に使った会社の責任として扱われる前提で考えるのが安全です。だからこそ、操作の記録を残し、重要な操作は人が承認する仕組みにしておくことが大切です。
- 既存の業務に AI を組み込むことはできますか？
- できます。Co-Craft では、AI に任せる範囲と人が承認する範囲を分けたうえで、既存の業務やツールに合わせた自動化をご提案します。まずはどの作業を自動化したいかをお聞かせください。
1
2
3
4
5
関連ページ