アピ社CEO「AIが1年以内にインターネット全体を乗っ取る能力持つかも」

人工知能（AI）の開発競争は、今すぐペースを落とす必要がある。米アンソロピックのダリオ・アモデイ最高経営責任者（CEO）が12日に公開した論考でそう訴えた。

「AIモデルの能力向上のペースを落とさなければならない。それでも進歩は速く感じられるだろうし、得られた時間を賢く使わなければならない」。アモデイ氏は自身のウェブサイトに投稿した3800語に及ぶ長文にそう記した。

世界有数のAI企業で、チャットボット「クロード」を手がけるアンソロピックを率いるアモデイ氏は、AI技術の進歩を強く支持してきた一方、AIのリスクを警告する「破滅論者」と批判されることもあった。アモデイ氏は12日、人々がAIを制御できなくなる可能性があり、AIが「サイバー攻撃や生物テロ、深刻な経済混乱」に悪用される恐れがあると認めた。

CNNのアンダーソン・クーパー記者との12日の単独インタビューでは、業界のトップらに対し、「間違った道」を回避しAIが人類に害を与える可能性を避けるべく協力を呼びかけた。

この呼びかけの直前には、アンソロピックの研究者ジェイコブ・コクソン氏が、同社や競合他社がAI開発に関して責任を持って行動していないとの懸念を示し、退社していた。

「AIを開発している人々は、AIが2029年末までに私たち全員を死なせる可能性があると本気で考えている。これはマーケティング広告ではない」。コクソン氏は8日、X（旧ツイッター）にこう投稿した。

アモデイ氏はCNNに対し、コクソン氏の意見には反対する点よりも同意する点の方が多いと語った。論考ではAIの恩恵が人類をより良い方向へ変える可能性があるとしても、リスクは深刻だと述べている。AIが急速に進歩し、半年～1年以内にインターネット全体を乗っ取る能力を持つ可能性もあり、そうなれば数千億ドル規模の損害が生じる恐れがあるという。

AI技術はここ数カ月の間に「劇的な速さ」で進歩し、自らを改善する能力を持つようになったとアモデイ氏は述べた。「放置すれば、こうしたシステムを理解し制御する人間の能力を上回る可能性がある。従って、そもそも追求するとしても、極めて慎重に進めなければならない」

アモデイ氏はAI企業に対し、…以下ソース

以下ソース
https://www.cnn.co.jp/tech/35252570.htm...

返信する

どうだかねー

返信する