未来を可視化する： Barracuda Networksが切り拓く、生成AI × セキュリティの最前線

バラクーダでは、ますます複雑化するデジタルランドスケープにおける新たなセキュリティ脅威に対応するため、常に革新を追求しています。メール、ネットワーク、アプリケーション、データを保護するために世界中の数十万のビジネスから信頼されている企業として、包括的なセキュリティソリューションの重要性を理解しています。Barracudaは、お客様を生涯保護しサポートするために存在しています - 最先端のAI技術をどのように活用して、私たちのミッションをさらに推進できるでしょうか？

バラクーダのGenAIプラットフォームイニシアチブをリードする主任エンジニアとして、製品チームに地域ごとに統合され、スケーラブルでコンプライアンスを満たしたプラットフォームを提供し、彼らがAIソリューションを自信を持って構築、反復、デプロイできるようにすることがいかに重要かを知っています。バラクーダAIは、20以上のAIモデルへの簡単なアクセスを提供し、最新のモデルは安定したAPIを通じて数日以内に追加されます。私たちはDatabricksの高度なトレーシング機能に依存して、AIプラットフォームを監視、トラブルシューティング、改善し、DatabricksのLLMOpsソリューション、例えばLLM Judge MetricsやMonitoringを、バラクーダAIを使用する製品チームのためにLLMOpsを簡素化するために積極的に統合しています。

Barracuda AIのトレーシングの力

サイバーセキュリティでは、AIモデルがどのように決定を下すかを正確に理解することは、効果性と信頼性の両方にとって重要です。トレーシングは、私たちのAIアプリケーションに前例のない可視性を提供し、初期リクエストから最終レスポンスまでの決定プロセスの各ステップを追跡することを可能にします。

Databricks Data + AI SummitでMLflow LangChain autologgingを見たとき、私たちは簡単に統合し、それ以来、その恩恵を受けています。

トレーシングにより私たちは以下を可能にします：

• 私たちのシステムを通じてリクエストの完全な旅を追跡します
• ボトルネックやパフォーマンスの問題をリアルタイムで特定します
• 複数のAIコンポーネント間の複雑な相互作用をデバッグする
• 異なる環境間での一貫した動作を確保します
• セキュリティとコンプライアンス目的のための監査証跡を提供します

プラットフォーム全体で包括的なトレーシングを実装することで、問題を迅速に特定し解決し、パフォーマンスを最適化し、攻撃パターンが進化しても私たちのセキュリティソリューションが最高の状態で機能していることを確認できます。

私たちの技術的な実装

バラクーダAIは、パフォーマンスを最大化しながらオーバーヘッドを最小化するように設計された柔軟で相互運用可能な技術に基づいて構築されています。

バラクーダAI APIインフラストラクチャ

私たちのAPIは、OpenAIと互換性のあるLangChain AIMessage/AIMessageChunkエンドポイント（近日中にさらに追加予定）を提供し、既存のツールやワークフローとのシームレスな統合を可能にします。この互換性レイヤーにより、製品チームはモデルやエージェントフレームワーク全体でのデプロイメントやコード変更を心配することなく、反復試行と実験を行うことができます。裏側では、私たちはインターフェースを慎重にラップし、地域ごとのスケーラブルなAPIゲートウェイをKubernetesクラスターを通じてデプロイし、Uvicornによって提供されるFastAPIを使用して構築します。これにより、一貫した動作とパフォーマンスを確保しながら、詳細なトレーシングを維持します。

Barracuda AIフロントエンド

Barracuda AIには、会社全体でのAIの使用を広げるための安全なSSO認証付きNext.jsフロントエンドアプリケーションもあります。

監視とログ取り

MLflowの自動ログ記録機能は、コードの大幅な変更を必要とせずにすべてのモデルのインタラクションを自動的に追跡します。この「設定して忘れる」方式のトレースは、プラットフォームが進化しても包括的なデータをキャプチャすることを保証します。

データ処理と分析

Databricksの統合は、大量のトレースデータを効率的に処理するための強力な分析と監視機能を提供します。最近のトレース（最後の1時間以内）については、即時分析のためにMLflow UIを使用します。古いエクスポートされたトレースについては、私たちのDatabricks Genieスペース用にDBTでビューを作成し、自然言語を使用して有意義な洞察と分析を抽出することができます。

日々の使用シナリオ

私たちのトレーシングインフラストラクチャは、セキュリティの優れた維持を助けるさまざまな重要なユースケースをサポートします：

複雑な問題のトラブルシューティング

ユーザーが異常な動作を報告した場合、開発者はすぐに関連するrequest_idを検索し、対応するトレースを取得できます。これにより、システム全体を通じてそのリクエストの全行程を追跡し、問題が発生した正確な場所を特定することができます。

包括的なパフォーマンスモニタリング

私たちは以下を見るための洗練されたダッシュボードと日次レポートを作成しました：

• チームとモデルによる使用パターン
• コスト分析と最適化の機会
• 効率のためのトークン使用の追跡
• モデルのパフォーマンスメトリクスとレイテンシ統計

これらのダッシュボードにより、リソースの割り当てについてデータ駆動型の決定を下し、最適化の機会を特定することができます。

不正利用の検出と防止

セキュリティは、外部からの脅威だけでなく、内部の潜在的な脆弱性に対する保護も含まれます。トレーシングシステムは、開発キーが誤って本番環境にデプロイされるなどの誤用シナリオを特定するのに役立ちます。

大規模データの管理

大規模なトレースデータの取り扱いは独自の課題を提示します。非常に大きなトレース（大規模なコードベースや大量のログのコピーなどの大量のコンテキスト負荷を含むもの）については、最も重要な情報を保持しながらDatabricksのVARIANTタイプの16MBのJSON制限内に収まるように、インテリジェントな切り捨て戦略を実装しました。

また、データプライバシーを優先しています。Delta Lake Tablesに保存されているトレースについては、トレースデータの分析価値を保持しながら、データ保護の目的で個人を特定する情報（PII）を削除します。

今後の方向性

私たちは積極的にバラクーダAIプラットフォームのいくつかのエキサイティングな強化を探求しています：

高度な評価機能

評価と監視のAPIの使用は、私たちの優先事項リストとハッカソンのロードマップの上位にあります。これらの評価機能をプラットフォームのAPIを通じて公開する予定であり、チームがAIによるセキュリティソリューションの品質を測定し改善することを可能にします。

データアクセスの民主化

チームがトレースデータに対して自分たちの分析を実行できるように、Databricks Delta Sharingを使用します。この機能により、彼らは自分たちのアプリケーションに特化した洞察と変更を導き出すことができます。

オフライン評価の強化

トレースデータのオフライン評価のための機能を開発しており、チームが仮説をテストし改善を行うことができます。これにより、プロダクションシステムに影響を与えることなく、イノベーションを加速します。このアプローチにより、セキュリティインフラの安定性を維持しながら、イノベーションを加速します。

拡張モニタリング

GenAIプラットフォームに新機能と強化を組み込むにつれて、私たちは監視機能を強化する方法を探っています。私たちは、製品イノベーションを加速させたいと考えています。例えば、DatabricksにAIエージェントをデプロイし、GenAIプラットフォームと統合し、トレーシングインフラの可視性を拡大するなどです。

まとめ

バラクーダAIはバラクーダの未来の革新の基盤であり、製品チームに次世代のセキュリティソリューションを構築するために必要な柔軟性、パワー、可視性を提供します。AI機能を一元化し、トレーシングを通じた観察可能性を合理化し、Databricksが提供するスケーラブルなインフラを活用することで、Barracuda AIは私たちの製品イニシアチブを強力に支える基石となりました。脅威の風景が進化するにつれて、我々はこのAIの基盤を継続的に洗練し、拡大することにより、すべてのバラクーダソリューションが堅牢で、敏捷性があり、未来に備えた革新から利益を得ることを保証することにより、顧客を生涯保護することに専念しています。