【Robust Intelligence】AI特有のミスを防ぐセキュリティソフトウェア

Robust Intelligence

Robust Intelligence（ロバストインテリジェンス）社は、「AI開発においてモデルの脆弱性を検出し、悪い結果を自動的に防ぐソフトウェア」を提供している。

複雑な計算を一瞬で行うことができる記憶と処理能力を持つコンピュータだが、人間のような振る舞いをコンピュータに実現させる技術であるAI（Artificial Intelligence）の領域では、この能力を十分に発揮できていないのが現状だ。その理由は、人間が生きる世界には数多くの予期しない例外が存在するからである。

この例外がAIに判断ミスを誘発する。自動運転技術にはAIが活用されているが、完全に事故を防ぐことができないのは、この影響が大きい。AIのミスをなくすためには、AIが本番段階を迎える前により多くのミスを発見し、事前に調整することが重要となってくる。

Robust Intelligence社はRIME（Robust Intelligence社モデルエンジン）プラットフォームを使用してAIを保護することで、データサイエンスチームが本番環境での問題解決に費やす時間を削減。安全性を高める。同社は2019年、ハーバード大学学内で創業された。

共同創業者には同大学のコンピュータサイエンスと応用数学の教授で、機械学習、アルゴリズム、最適化における画期的な成果で知られるYaron Singer（ヤーロン・シンガー）CEOと、データサイエンスを専門とするQuantCo社の日本支社共同創業者で、同じくハーバード大卒の大柴行人氏がいる。

アメリカ国防総省、Paypal、Expedia、NTTデータ、東京海上ホールディングスなどで利用されている。

AIストレステスト

数々のテストを実行し、生産開始前モデルの暗黙の前提や失敗を自動的に特定。

• 通常数ヶ月を要する本番環境のモデル化を数時間で行うことが可能
• テストの作成よりもモデルの開発を優先
• 組織全体でAIテストプロセスを標準化

AIファイアウォール

致命的な障害の原因となる破壊的なデータから、本番モデルを継続的に監視・保護。

• モデル配備後、トラブルの対応時間を大幅に削減
• データドリフトや整合性などの問題について即座に通知
• モデルを再教育するタイミングを学習

企業対応

• 安全なデプロイメント：オンプレミス＆クラウド。データやモデルが顧客の環境に対応
• 伸縮自在のスケーラビリティ：コンテナ型のデプロイメントは、ビジネスニーズに応じて拡張可能
• アクセスコントロール：安全なパーティショニング（データを分割して格納する機能）と詳細なアクセスコントロール（閲覧権限の制御）により、内部標準を維持
• コラボレーションツール：結果やロバストネスレポートを共有し、データサイエンスチームが常に同期できる状態を維持

（Photo: Robust Intelligence, https://www.robustintelligence.com ）