誰かがAIポリシーの構築について尋ねてくるたびに、私は内心少し心苦しくなる。悪い質問だからではなく、私の答えがいつも同じだからです。「一度くらい、純粋な恐怖心だけで構築するのはやめられないか？」ほとんどの人はAIの仕組みを理解していないため、まずパニックに陥るのです。
そして、このような恐怖体験は何も初めてではありません。クラウド、モバイル、BYOD（個人端末の持ち込み）。何か新しいものが現れると、セキュリティ部門は即座に「ノー」を叫ぶ部署と化し、チームにこう告げるのです。「ChatGPTは使えない。何かを漏らすかもしれないからな」
しかし、同じエンジニアが公開のGitHub Issueに顧客IDを貼り付けている、なんていうことはよくあります。困ったものです。
Respond faster with Sumo Logic Dojo AI
Cut through the noise, detect threats faster, and resolve issues before they disrupt your operations.
拡張不能な恐怖反射
ただ恐れていても仕方がない。「AI禁止」と宣言してもリスクは減りません。このような状況になるだけです。
- シャドーIT（許可のない使用）
- 一貫性の欠如（Microsoft Copilotが許可されているにもかかわらずChatGPTは禁止されている、など）
- セキュリティ（業務上最も重要な部分）に対する信頼の喪失
組織内で安全かつ健全なAI使用を実現するには、反射的な制限から脅威に基づいた意思決定へと移行する必要があります。
脅威モデルのないポリシーという妄想
真のセキュリティポリシーには、次のような質問への答えが用意されているべきです。
- 何を守るのか？
- 誰から守るのか？
- 失敗する理由は？
それが脅威モデリングであり、AIにも同じことが言えます。
例として、 開発チームがサポートケースの要約にChatGPTを使うことを希望したとします。
- アセット：社内サポート文書
- 脅威：プロンプトインジェクション、漏洩、ハルシネーション
- 影響：ワークフローの漏洩、顧客への不適切なアドバイス
- 制御：テンプレート、PIIなし、監査ログ
これで「嫌な予感がするからNO」ではなく、「ガードレールありならYES」と答えることができます。
シンプルでクールなフレームワーク
組織全体で安全なAI使用を維持するには、まず以下の手順を実行します。
- 棚卸しと発見：AIの使用例をすべて見つける（影であれ表であれ）。開発、マーケティング、人事、法務、そうどこにでも存在します。
- データ分類：機密情報を把握します。PII？ソースコード？戦略的書類？
- 許可／監視／拒否ゾーン：すべてを禁止する必要はありません。リスクと生産性のバランスを取るため、階層モデルを活用してください。
- ガードレールとログ記録：プロンプトフィルタ、出力検証、およびセッション記録。AIゲートウェイは存在します—活用してください。
- 妨げず、支援せよ：チームと連携せよ。「ノー」は長期的な方針ではありません。
無視しているかもしれない5つのポリシー領域
- シャドーの微調整：誰でも内部データでLLaMAモデルの微調整が可能になりました。その学習を解除するのはお望み通りにはいかないでしょう。
- プロンプトのIP漏洩：プロンプトはあなたのロジックです。エンジニアがそれをDiscordグループに貼り付けないようにしてください。
- ブラウザ拡張機能：Jasper、Rewind、およびMerlinは、おしゃれなブランド名が付いたデータ抽出ツールです。
- AI作成の法律文書：保証条項の幻覚に過ぎません。
- 自律型エージェント：プロダクトマネージャー（PM）が作った『ZapierとGPT』の連携設定が、勝手に顧客にメールを送り始めています。素晴らしい（棒読み）。
これらの各項目には、脅威分析、リスクマトリクス、そして明確なポリシーの方針が必要です。数字（計算式）が入っていた方が『公式感』が出るというなら、サンプルのマトリクスを用意しておきましたよ。
| 領域 | 可能性 | 影響 | リスクレベル |
| シャドーの微調整 | 4 | 5 | 20 |
| プロンプトエンジニアリングIP | 3 | 4 | 12 |
| AIブラウザ拡張機能 | 5 | 4 | 20 |
| 法務／コンプライアンスにおけるAI | 3 | 5 | 15 |
| 自律型AIエージェント | 4 | 5 | 20 |
死に物狂いで視覚化を
以下にシンプルで一般的な脅威モデリングの図を示します。
- アクター
- 脅威
- アセット
- 影響
- 制御
それらをホワイトボードに貼り付けて、点と点を繋げばいいでしょう。セキュリティ以外の分野（開発、GTMなど）の人材を招き入れて橋渡しをし、問題をより多様な視点で捉えることができるようになれば、ボーナスポイントを得ることもできるでしょう。
まとめ
AIポリシーは、YESかNOで解決する問題ではありません。
それは、次のような質問の答えを把握できているかということにかかっています。
- ユースケースは何か？
- どのようなリスクがあるか？
- 制御は可能か？
セキュリティは道徳警察ではありません。私たちの仕事は、ビジネスを安全に実現することです。
だから、すべてをブロックするのはやめましょう。脅威のモデリングを始めてください。そうすれば、周りの人たちも自分のAI使用を隠さなくなるかもしれません。
AIポリシーだけでは不十分です。AIデータプライバシーの裏にあるリスク状況への理解を深めましょう。
