マイクロソフトがCounterfitAIセキュリティ評価ツールをオープンソースに変える

マイクロソフトは、AIセキュリティリスク評価ツールであるCounterfitをオープンソースに変更し、誰でも無料でツールの使用を開始できるようにしました。現在、組織はCounterfitを使用してセキュリティリスク評価を自動化し、使用している保護を完全にゼロにすることができます。

MicrosoftがCounterfitをオープンソースツールとしてリリース

マイクロソフトは当初、AIと機械学習システムのセキュリティを迅速に評価できる内部ツールとしてCounterfitを開発しました。それは、オペレーターが一度に「複数のAIシステムを攻撃する」ために使用できる一般的なAI自動化に急速に変化する前に、スクリプトのコレクションとして誕生しました。

マイクロソフトは現在、AIレッドチームの運用におけるコアツールとしてCounterfitを定期的に使用しています。 Counterfitは環境、モデル、およびデータに依存しないため、ツールはインピーダンスなしで正確な評価を提供できます。

ツール自体は、セキュリティの専門家が使用するために設計されています。 Counterfitは、MetasploitやPowerShell Empyreなどの他の一般的なレッドチームツールと同様のワークフローを使用し、コマンドラインからアクセスできるスクリプト、プリロードされた攻撃アルゴリズム、脆弱性スキャン、高度なログ記録などを幅広くサポートします。

マイクロソフトは、セキュリティの専門家や大規模な組織と幅広く協力して、Counterfitをより適切に開発してきました。 マイクロソフトセキュリティブログで、エアバスの上級サイバーセキュリティ研究者であるマチルダロードは次のように述べています。

AIは業界でますます使用されています。特に、問題空間のどこで特徴空間攻撃が実現できるかを理解するために、このテクノロジーの保護を先取りすることが重要です。セキュリティ担当者がAIシステムのセキュリティを評価するために、マイクロソフトなどの組織からオープンソースツールがリリースされたことは歓迎されており、業界がこの問題を真剣に受け止めていることを明確に示しています。

オープンソースのMicrosoftCounterfitは、公式のGitHubにあります。

関連:あなたが知らなかった仕事がAIによって実行された

カウンターフィットが役立つのはなぜですか?

マイクロソフトの規模の企業でさえ、効果的なセキュリティ評価を完了することは容易ではありません。特に、それらの企業が巨大なFortune 500のリーダー、政府、非営利団体などである場合はなおさらです。以前のMicrosoftの調査では、多くの企業がAIシステムを正確にテストできないことがわかりました。

28の企業のうち25が、AIシステムを保護するための適切なツールが整っていないことを示しており、セキュリティの専門家がこの分野で具体的なガイダンスを探していることがわかりました。

Counterfitを使用すると、これらの評価を簡単に完了でき、分析とテストのプロセスが自動化されます。

関連: AIテクノロジーを使用してビジネスを改善する方法

さらに、最近公開されたGartnerの調査では、保護を改善するために企業が講じることができる最も重要なセキュリティ対策の1つとして、AIセキュリティの採用が挙げられています。同じ研究は、「2024年までに、専用のAIリスク管理制御を実装する組織は、そうでない組織の2倍の頻度でAIの悪影響を回避することに成功するだろう」と述べています。

つまり、CounterfitがオープンソースのAIセキュリティ評価ツールになることで、世界を少し安全な場所にすることができます。