アプリケーション層にありとあらゆる興奮が詰まっていると考えたことが、誰にでもあります。ファイアウォール、WAF、EDR、ダッシュボードの数々——アプリケーションの動作を監視するために構築されたセキュリティ産業複合体全体。さて、「AIエージェント」が主導権を握る中、従来のセキュリティの要所であったアプリ層を無視して、迂回するようになりつつあります。UIやAPIを経由してクリックする代わりに、人間のパートナーであるAIが直接システムコールを行い、OSやハードウェアレベルでワークフローを自動化しています。
要するに、自信過剰な新人を雇って、root権限を与えてしまっているのに、楽観的に構えているようなものです。何が一体問題なのでしょうか？
Respond faster with Sumo Logic Dojo AI
Cut through the noise, detect threats faster, and resolve issues before they disrupt your operations.
誰も認めたくない落とし穴
実は問題は一つ、二つではありません。
•セキュリティのブラックホール：AIがOS層で動作できるなら、OS層で問題を起こす可能性もあります。設定ファイルを書き間違えた、などというレベルではありません。カーネル特権を持つAIの話です。たった一つの誤ったプロンプトや汚染されたデータセットで、単なるSlackメッセージの失敗にとどまらず、ファイルシステム全体が書き換えられてしまいます。
•データの可視性？データ可視性とは？：パイプラインを構築したあの見事でクリーンなアプリケーション層ログのことでしょうか？それはもうありません。今や、混乱したデータストリーム、中途半端なAI判断、監視すべきボトルネックの減少といった問題に直面しています。「一枚のガラス窓」というより「曇った鏡」と考えるべきです。
•攻撃対象領域の拡大：AIがアプリケーションを迂回したからといって脆弱性が消えるわけではなく、むしろ増殖するのです。ファームウェア、ドライバ、難解なシステムコールといった、ほとんどの開発者やセキュリティ担当者が決して触れたくなかった領域の話になります。
•脅威モデルを混ぜ合わせる：ホワイトボードに描いたあの見事な層状図（ユーザー→アプリ→OS→ハードウェア）はって？ああ、捨てて構いませよ。AI駆動のエージェントは層を簡素化させ、従来のモデルでは捉えられない予期せぬ層間の混乱を引き起こします。
では…どうすればいいのでしょうか？
AIがアプリケーション層を飛び越えるのなら、セキュリティ戦略を適応させる必要があります。以下を取り入れることを検討してください。
•新たな脅威モデル：AIがシステムレベルのアクセス権を持つと想定する。いえ、実際にそうなります。それに応じてモデルを更新してください。
•下位レイヤーでの可視性：アプリログだけでは不十分です。OSおよびハードウェアレベルの可観測性を実現するべく投資してください。かつて多くの人が無視していたテレメトリーに慣れ親しむことです。
•AIオペレーションの安全装置：新人に無監督で本番環境を運用させないのと同じように、制約なしにエージェントAIを動作させてはいけません。最小権限、サンドボックス化、実行時チェック——これらすべてがAIオペレーションのために進化させなければいけません。
•ハードウェアおよびOSベンダーが対応を強化：アプリケーション層が省略される場合、負担は下流に移行します。ハードウェアおよびOSプロバイダーに対し、信頼性、検証、ロールバックのためのより多くの「AIセーフ」プリミティブの提供を期待（要求）します。
結論
Aiエージェントは「悪い」わけではありませんが、破壊的でもあります。アプリケーション層の可視性という快適さを犠牲にし、AIがOSやハードウェアに直接触れるという新たなルールが支配する混沌の世界へと移行しています。可視性、脅威モデリング、ガードレールを今見直さなければ、次は「うっかりしてた」程度の侵害では済まなくなります。。本番サーバーでシステム管理者を演じるのは、あなたのAI新入社員です。
ガードレールを設置して安全に走れるようにしましょう。より優れたAIセキュリティポリシーの作成方法を学びましょう。
