生成AI等を活用したサイバーセキュリティ対策強化

事業概要

上記目的を達成するため、以下の取組を実施する。 ①生成AIをはじめとするAI技術がサイバーセキュリティに与える影響について、国内外の事例調査を行い、脅威と対策を洗い出す。複数のAIモデル、AIモデルを含んだAIシステムを用いて、それらの対策の有効性を検証・整理し、チェックリスト化を行う。検証・実証結果を元に、セキュリティ分野におけるAIの安全かつ効果的な開発･提供に向けたガイドラインの策定や、 最新情報の発信・普及啓発を実施する。 ②AIの安全性確保において主導的な役割を担い、米国政府などから資金拠出を受ける非営利団体MITREを始め、複数の専門機関と連携を深めるため、国立研究開発法人情報通信研究機構（NICT）サイバーセキュリティ研究所の研究拠点を北米に設立し、これら専門機関との共同研究事業を推進する。 ③様々な情報源を自動的に収集し、特定のキーワードの出現数等を特徴量として学習したAI…

目的

あらゆる分野において生成AIの実装が急速に進んでいる一方で、生成AIを巡るリスクとして、偽誤情報の拡散、プライバシーの侵害、知的財産権の侵害等に加えて、サイバー攻撃への悪用等によるサイバーセキュリティのリスクが新たに指摘されている。 他方、サイバー攻撃の大規模化・複雑化・巧妙化に伴い、サイバーセキュリティ対策の業務負荷が課題となっている中、サイバー攻撃対策への生成AI等の利活用が期待されている。 こうした背景を踏まえ、生成AI等のAI技術を巡る最新動向を把握しつつ、AIに起因するセキュリティリスクを可能な限り回避・低減するための「Security for AI」に取り組むとともに、AIをセキュリティ対策に効果的に活用するための「AI for Security」に取り組む。