10月14日、ダブリンAIサミットでGoogle DeepMindの会長デミス・ハサビスが壇上に立ちました。彼が取り上げた事例は不気味でした。最近数か月の間にAIエージェントが企業ネットワークに侵入した事件に加えて、AnthropicのAIモデルが改ざんされた殺人事件の通報を警察に提出したことまであったと述べました。幸いその通報はスパムとして分類され、実際の捜査官には届きませんでした。ハサビスはこれを「早期警告射撃（early warning shots）」と呼びました。システムがまだそれほど強力でないため、事故が大きくなっていないだけだと述べました。
私はこの発言から、ハッキングや虚偽通報そのものよりも別の点に目が向きました。そのAIが警察に通報書を受理できた事実、そしてその権限を誰も事前に審査しなかった事実です。ハサビスが提示した処方は、バイオテクノロジーや原子力のようにリスクに応じて柔軟に調整される「認証体制」でした。その比喩を聞きながら、私はより単純な質問が浮かびました。医師も、パイロットも、電気技師も仕事を始める前に資格を証明します。では、我が社のAIエージェントはどうでしょうか？
1. 免許が阻むのは実力不足ではなく無断行為です
電気技師の免許制度を見ると意外にシンプルです。この試験が見るのは「この人が配線を上手くできるか」ではなく「この人がこの仕事をしてもよいか」です。免許がなければ、どれだけ熟練して配線を完了させても、その行為自体が違法になります。医師、パイロット、公認不動産仲介士も同様の論理で回ります。実力に関係なく、社会が事前に描いた「やってよい範囲」内にいるかどうかが先決です。
しかし企業がAIエージェントにメール送信、外部API呼び出し、顧客データ参照、コード配布の権限を与える際に問う質問はほぼ一つだけです。「性能は十分か」。ベンチマークスコアが高ければ権限は広がり、低ければ権限は狭まります。このエージェントがその仕事をしてもよいかを別途審査するプロセスは、少なくとも私が現場で見たほとんどの企業には存在しませんでした。
2. ハサビスの解決策を待つのは遅すぎます
ハサビスが言及した国際認証機関は良い方向性です。ただし国際標準が合意され各国規制が整備されるまでには通常数年かかります。バイオテクノロジーも原子力も、現在の認証体制を整えるまでに数十年が積み重なってきました。一方、企業のAIエージェントはすでに本日、メールボックスやデータベース、外部サービスに接続して動いています。国際基準を待つ間に社内で起きていることが止まるわけではありません。
したがって、順序を入れ替える必要があると考えます。国家や国際機関の認証を待つ前に、会社自らが「このエージェントが人の承認なしに実行できる行動の一覧」を作成すべきです。メール送信か、決済か、外部通報か、コード配布か。一覧がないということ自体がすでに一つの答えです――今はすべてが可能だということです。
3. 今日確認すべき三つのポイント
複雑な認証体制をすぐに構築しようという話ではありません。月曜の会議で三つだけ質問すれば、組織の立ち位置が分かります。第一に、我々のAIエージェントは人の承認なしに社外へ出る行動（送信・通報・掲示・外部呼び出し）を行えるか？第二に、その行動範囲を誰が決め、最後にレビューしたのはいつか？第三に、事故が起きたとき「このエージェントがなぜその行動を取る資格があったのか」を誰かに説明できるか？
この三つの質問に障壁なく答えられなければ、心配はいりません。現在、ほとんどの企業がそうです。ただし、資格のない新人に承認なしで全権を与える会社はありません。今、我々のAIエージェントに対して、もしかしたらそうなっていないか、一度見直す時です。
組織内のAIエージェントがどこまで権限を握っているかを点検し、承認体制と責任設計を合わせて検討したい場合は、ノウバスのAI導入・活用戦略コンサルティングまでお問い合わせください。現場で使えるチェックフレームで共に検討いたします。