オープンAI、自社AIがサイバー攻撃能力測る社内試験で「暴走」…外部企 業システムに不正侵入する事故

米オープンＡＩは２１日、自社のＡＩ（人工知能）モデルが外部企業のシステムに不正侵入する事故が起きたと発表した。社内の性能試験中に「暴走」し、隔離された環境を自ら突破したという。ＡＩは与えられた課題を処理するため未発見だったシステム上の欠陥を見つけ、盗み出した認証情報などを悪用していた。

使われたのは、公開済みの最新モデル「ＧＰＴ５・６ソル」と、未公開のより高性能なモデル。サイバー攻撃の能力を測る社内試験で、複数の欠陥を突いてインターネットに接続し、米ＡＩ開発企業ハギングフェイスのサーバーに不正に侵入した。

試験環境は能力の上限を把握するため、危険な行為を制限する安全機能が緩められた状態だった。ハギングフェイス側が不審な動きを検知し、攻撃を停止させたとしている。両社で詳しい侵入経路や被害の範囲などを調査している。

オープンＡＩは今回の事案を「前例のないサイバー事案」としており、監視体制や安全対策を強化すると説明。だが、高性能なＡＩが複雑なサイバー攻撃を自律的に実行する危険性が浮き彫りに…以下ソース

https://www.yomiuri.co.jp/economy/20260722-GYT1T00361...

返信する

大佐「あの力には触れてはならんのかもしれんな」
ドクター「・・・神、の力・・・ですか？」

返信する