オープンAI 社内で安全性懸念の警告あるも会社側が無視

アメリカのAI開発企業「オープンAI」が開発中のAIモデルが、意図しない形で他社にサイバー攻撃をしかけた事案に関連し、アメリカの有力紙は、この事案が起こる数か月前にオープンAIの従業員が危険性を指摘していたにもかかわらず、会社側が警告を無視していたと報じました。

オープンAIはことし7月、開発中のAIモデルが意図しない形で他社にサイバー攻撃をしかける事案が起きたと発表しました。

アメリカの有力紙「ニューヨーク・タイムズ」は9月29日、この事案が起こる数か月前、従業員2人が、AIモデルの性能や安全性を評価するテストを行っている際に適切に監視が行われていないことに気づき、懸念を経営陣にメールで伝えたということです。

これに対して経営陣は、AIモデルの公開を予定通りに行うため、テストをできるだけ迅速に進める必要があると答え、追加の安全対策は施されなかったとしています。

オープンAIは25日にも、開発中のAIモデルが開発者の意図を逸脱して行動し、政府機関や大学を含む数十の組織に被害があったことを明らかにしています。

また、アメリカのメディアは28日、オープンAIが安全上の懸念を理由に10月に予定していた次期AIモデルの公開を中止したと伝えていました。

https://news.web.nhk/newsweb/na/nd-20260930de5337...

返信する