AIはチームの働き方を変えつつあります。開発者はコードをより速く生成し、セキュリティチームは調査を自動化し、企業全体の従業員はAIツールを使用して調査、コンテンツ作成、意思決定を加速させています。
しかし、この採用には落とし穴があります。利用が爆発的に増加するにつれ、新たなセキュリティリスクが生じます。攻撃対象領域の急速な拡大、攻撃タイムラインの短縮、潜在的なデータ漏えい、そしてこれらのツールがどのように使用されているかについての可視性の著しい欠如などです。
セキュリティ上の大きな盲点を生じさせたり、ガバナンスを損なったりすることなく、企業がAIを導入できるようにするにはどうすればよいでしょうか？
先日発表したClaude Complianceアプリに続き、弊社カタログで利用可能なアプリの中から、必要な可視性を迅速に得られるものをいくつかご紹介します。以下で紹介するアプリは、セキュリティ、コンプライアンス、ITチームがAIシステムを監視し、支出を追跡し、リスクの高い行動を単一のプラットフォームから検出するために必要な、正確な可視性と制御を提供します。
AIのジレンマ：可視性 vs. 速度
セキュリティチームは、イノベーションを阻害するか、データ漏えいのリスクを負うかの選択を迫られるべきではありません。セキュリティがボトルネックになると、ユーザーはしばしば「シャドウAI」に頼り、独自のコード、顧客データ、知的財産を管理されていないツールに貼り付け、目に見えないリスクを生み出します。当社のAI/MLアプリは、セキュリティおよびコンプライアンスチームに必要な可視性を提供し、重要なLLMアクティビティ、ユーザーインタラクションパターン、インフラストラクチャのパフォーマンスを把握することで、何が起こっているかを見失うことなくAIの導入を促進できます。ここでは、これらの統合機能がエコシステム全体でどのように連携し、迅速な対応と制御の維持に役立つかを詳しく見ていきます。
LLMコンプライアンス
Anthropic Claude AI コンプライアンス
パブリックおよびエンタープライズ向けLLMとのユーザーインタラクションを管理することは、データ漏えいに対する第一の防衛線です。ClaudeはAnthropic社のエンタープライズ向けAIアシスタントであり、ビジネスチームと技術チームの両方で、コーディング、分析、コンテンツ生成などの用途に広く採用されています。Sumo Logic Claude Compliance Appは、Claudeのアクティビティを、企業が既に信頼している集中型プラットフォームに統合します。Claude EnterpriseとClaude Platformのアクティビティログを取り込むことで、このアプリはAPIの使用状況、認証、課金、データアクセス、統合、SSO、ポリシー変更に関する一元的な可視性を提供するとともに、事前構築済みのダッシュボードとすぐに使える検出機能も備えています。
すべてのユーザー操作はタイムスタンプとIPレベルの詳細情報とともに自動的にログに記録されるため、コンプライアンスチームは継続的かつ検索可能な監査証跡を入手でき、規制上の安心感を得られるだけでなく、ITチームは包括的な運用可視性を得ることができます。これらすべては、新しいツールのオーバーヘッドを追加することなく実現されます。このレベルの可視性があれば、セキュリティチームは疑わしいアクセスパターンを迅速に調査し、AIの使用が企業ポリシーに準拠していることを検証し、複数のシステムを横断して調査することなく監査対応レポートを作成できます。
OpenAI ChatGPTコンプライアンス
ChatGPTとCodexは、知識労働とソフトウェア開発のためのOpenAIのAIアシスタントであり、従業員が組織全体で調査、分析、コンテンツの作成、コードの記述、ワークフローの自動化を行うことを可能にします。Sumo LogicのChatGPTコンプライアンスアプリは、組織全体でOpenAIのツールがどのように利用されているかを詳細に可視化します。このアプリは、詳細なメタデータ、コンテンツに関する洞察、および厳格な監査証跡を活用することで、インタラクションパターンを特定し、企業ポリシーに違反するデータ共有行動を警告し、潜在的なコンプライアンスリスクが深刻化する前に明らかにします。この情報を活用することで、コンプライアンスおよびセキュリティチームは、どの従業員が機密データを外部のAIツールと共有しているかを特定し、ポリシーのガードレールを適用し、潜在的なデータ漏洩が報告対象となるインシデントになる前に介入できます。
モデル管理
組織が成熟するにつれて、開発者はLiteLLMのようなプロキシを使用して、複数のオープンソースおよびプロプライエタリモデルを試し、プロバイダー間でリクエストをルーティングすることがよくありますが、これはすぐに予算の膨張や可視性の分断につながる可能性があります。Sumo LogicのLiteLLM Appは、そのアクティビティを可視化し、100種類以上のLLMにわたる支出をシームレスに監視・管理・追跡できるようにします。その情報を一元管理することで、エンジニアリングチームと財務チームは、チーム別またはモデル別にコスト超過を特定し、最も価値の高いユースケースに予算を再配分し、問題になる前に支出の急増を防ぐことができます。
独自のカスタムAIインフラストラクチャを構築するエンジニアリングチーム向けに、OpenLLMetryは、OpenTelemetryを拡張して、LLM呼び出し、ベクトルデータベース、AIエージェントからのトレース、メトリクス、ログをキャプチャするオープンソースのオブザーバビリティフレームワークです。Sumo LogicのOpenLLMetry Appは、重要なLLM、ベクトルデータベース、およびAIエージェントのテレメトリを標準のOTEL形式で収集するため、カスタムAIアプリケーションも従来のマイクロサービスと同様に測定可能で安全に保てます。このテレメトリにより、エンジニアリングチームはLLM呼び出しにおけるパフォーマンスボトルネックを特定し、異常なエージェント動作を検出し、インフラストラクチャの他の部分に適用しているのと同じ可観測性基準を維持できます。
開発者の生産性
AIはソフトウェア開発を根本的に変革しましたが、エンジニアリングリーダーはセキュリティ保証とともにその価値を証明する必要があります。
GitHub Copilotは、AIを搭載したコーディングアシスタントで、開発者のIDE内でリアルタイムのコード提案、補完、チャットを直接提供します。Sumo LogicのGitHub Copilot Appは、エンジニアリング組織全体におけるCopilotの導入状況、活用状況、生産性に関する実用的な可視性を提供します。
AIへの投資が成果を上げているかどうかを推測する代わりに、エンジニアリングリーダーは提案の効率、言語の使用状況、チャットアクティビティを追跡して、現実世界への影響を測定できます。直感的なダッシュボードは導入傾向を可視化し、利用率の低いチームや全く関与していないチームにフラグを立てることで、ライセンス費用を最適化し、必要な箇所に支援を集中させ、AIツールへの投資に対する明確なビジネスケースを構築できます。
エンタープライズクラウドAIモニタリング
大規模なクラウドAIインフラストラクチャを活用する組織は、基盤となるプラットフォームランタイムを注意深く監視する必要があります。
AWS AIモニタリング
Amazon Bedrockは、主要なAIプロバイダーの基盤モデルにアクセスしてデプロイするためのAWSのフルマネージドサービスであり、自律型AIエージェントの構築と実行も含まれます。Sumo LogicのAmazon BedrockおよびBedrock AgentCore Appsは、CloudTrail、CloudWatch Logs、およびランタイムパフォーマンスメトリクスに関する詳細なインサイトを提供します。これらの事前設定済みのダッシュボードを使用すると、エージェントのランタイム、メモリ割り当て、APIゲートウェイ、組み込みツール、IDサービスなどを含むBedrockサービスのログを監視し、健全性を追跡できます。この運用データにより、クラウドチームとセキュリティチームは、設定ミスのあるエージェントを検出し、実行時の異常に対応し、AIインフラストラクチャがAWS環境の他の部分と同じコンプライアンス基準を満たしていることを確認できます。
カスタムモデルを構築するチームにとって、Amazon SageMakerは、カスタム機械学習モデルを大規模に構築、トレーニング、デプロイするためのAWSのエンドツーエンドプラットフォームです。Sumo LogicのAmazon SageMaker Appを使用して、トレーニングおよびデプロイメントビルドのログとパフォーマンスメトリクスを監視することで、カスタム機械学習パイプラインを綿密に監視できます。この可視性により、MLエンジニアはトレーニング実行の失敗を早期に発見し、モデルのパフォーマンスを経時的に追跡し、本番環境でのデプロイメントが期待どおりに動作していることを確認できます。
Microsoft AIモニタリング
Microsoftを主に利用する企業は、分散コンピューティングリソース全体でMLモデルを構築、トレーニング、運用するためのクラウドプラットフォームとしてAzure Machine Learningを利用しています。Sumo LogicのAzure Machine Learning Appを使用すると、ワークスペース内の個々のノード全体で、トレーニング実行、モデルのデプロイ、およびリソース使用状況を追跡できます。プラットフォームチームおよびML Opsチームは、遊休コンピュートリソースを特定し、デプロイ失敗をトラブルシュートし、分散ワークロード全体でコストを最適化できます。
Microsoft Foundryは、独自のデータとインフラストラクチャ上でAIモデルをカスタマイズ、微調整、デプロイするためのMicrosoftのエンタープライズプラットフォームです。Sumo Logicの Microsoft Foundry Appは、Microsoft Foundryリソースのアクティビティ、健全性、ステータスに関する重要な運用上の可視性を提供し、エンタープライズデータファブリックが最適かつ安全に稼働することを保証します。この追加の可視性により、ITチームとセキュリティチームは、独自データへの不正アクセスを監視し、微調整されたモデルが期待どおりのパラメータ内で動作していることを検証し、最も機密性の高い資産の上に構築されたAIに対するガバナンスを維持できるようになります。
開始
AIの導入によって、新たな組織的なサイロや運用上の死角が生まれるべきではありません。これらのAIおよびMLアプリをSumo Logicと統合することで、組織は厳格で一元化されたセキュリティ体制を維持しながら、迅速にイノベーションを進める自信を得ることができます。各事業部門が最先端のAIツールを自由に利用できるようにしつつ、セキュリティチームが企業資産を保護するために必要な状況把握、可視性、制御を完全に確保できるという安心感を提供します。
AIパイプラインを保護し、デプロイメントを最適化する準備はできていますか？まずはSumo Logic App Catalogにアクセスし、AI/MLカテゴリを確認して開始してください。または、個別デモを弊社チームにご依頼ください。
毎月新しいアプリや連携機能を追加しているため、最新の内容についてはApp CatalogのAI/MLセクションをご確認ください。
