TECH Aiセキュリティ

SherLOCK、生成AIの脆弱性に関する国際共同レッドチーミングテストの成果を発表へ

editors

AIセキュリティスタートアップのSherLOCK株式会社（本社：東京都港区、代表取締役CEO：築地テレサ）は、生成AI特有の脆弱性を検証する国際共同レッドチーミングテスト「International Network of AI Safety Institutes Joint Testing Exercise」において、技術支援を実施した。同社は、この成果を2025年5月27日から30日にかけて大阪国際会議場で開催される「2025年度 人工知能学会全国大会（第39回）」にて発表する予定である。

国際連携によるAI安全性評価の強化


本プロジェクトは、AIセーフティ・インスティテュート（Japan AISI）および国立情報学研究所（NII）と連携し、AISI Global Networkが推進する国際的なAIレッドチーミングテストの一環として実施された。特に、シンガポールAISIとJapan AISIが共同リードを務めた「技術トラック2（基盤モデルの評価）」において、SherLOCKはNIIと共に安全性評価を行い、各国の技術的成果と意見交換を通じて、AI安全性に関する国際的な理解の促進に貢献した。

生成AIのリスクと対策


生成AIの普及に伴い、ハルシネーション（事実に基づかない情報の生成）、機密情報の漏洩、プロンプトインジェクションやジェイルブレイクといった新たな攻撃手法が増加している。これらのリスクに対処するため、SherLOCKはAIシステムの潜在的な脆弱性や悪用リスクを事前に特定・評価するAIレッドチーミングテストの実施や、企業が生成AIを活用する際のガードレールツールの開発・提供に注力している。

今後の展望とコミットメント


SherLOCKは、AI技術の進化がもたらす新たな可能性を最大限に引き出しつつ、その潜在的なリスクを最小限に抑えるための最先端のAIセキュリティソリューションを提供し続けることを使命としている。今後も、国内外の政府機関、研究機関、業界団体、企業との連携を深め、AIセキュリティに関する知見の共有や共通課題への対処、新たな標準の策定に積極的に貢献していく方針である。
また、ROIを意識した生成AI活用ユースケースの選定や戦略立案、AIシステムの設計から運用、継続的なリスク監視に至るまで、包括的なAI活用とセキュリティソリューションサービスを提供し、企業や組織の生成AI活用に伴う業務効率化・生産性向上、新たな付加価値創出を推進していく。

会社概要

  • 会社名：SherLOCK株式会社 (SherLOCK, Inc.)
  • 代表者：代表取締役CEO 築地テレサ
  • 設立日：2024年1月
  • 所在地：〒105-0001 東京都港区虎ノ門五丁目9番1 麻布台ヒルズ ガーデンプラザB 5階 TOKYO VENTURE CAPITAL HUB内
  • 事業内容：AIセキュリティソリューションの開発・販売・提供
  • URL：https://shlck.com

詳細な研究成果や発表内容については、2025年度 人工知能学会全国大会の公式サイトをご参照ください。

本記事は、原文から一部編集・要約して掲載しています。