少し寒暖差はありますが過ごしすい季節の連休真っただ中。人出も多く通りがかる各所賑っています。
そんな中、情報システム界隈には「Copy Fail」なる恐ろしい脆弱性が発見されたニュースが流れてきました。いくつかの前提条件はありますが、一瞬でシステムの管理者権限を乗っ取ることが可能な恐ろしいものです。対象となるシステムの開発者・利用者はこの対応で大わらわです。
「Copy Fail」そのものの詳細については他のメディアを見ていただくとして、この脆弱性はAIの支援により発見されたという点は興味深いところ。「脆弱性がある可能性」は人間が見出しましたが、実際にその手法が存在するかをAIの支援の下で様々なパターンを検証し発見した、という流れの様です。
とても良いAIの使い方ではあります。ただ、これは逆の見方もできます。今回はシステムを開発管理する側、いわば防御側での発見でしたが、もし攻撃を意図する側の人間が同じことを考えたら。そして発見できてしまったら。とても恐ろしいことです。
最近「Claude Mythos」なる「サイバーセキュリティに強いAI」が登場しました。その能力はもちろん脆弱性対策に大きく貢献できますが、対策ができるということはその逆の用途にも強いということになります。このためClaude社はこのMythosを一般公開しておらず、提供先を厳格に制限しようとしています。しかし一度実現したからには、いずれ同様の技術が出てくると考えて良いでしょう。
今後そういったAI同士が丁々発止の攻防を始めた時に、果たして人間は制御できるのか。もはや手の届かない世界としてシステムを捨てなければならなくなるのか。SF映画の世界でしか見たことのない展開が、意外と近い将来に待っているのかもしれません。
情報システム本部 川田（大）