AI開発の減速呼び掛け:アンソロピックCEO
▼ページ最下部
AI開発の減速呼び掛け
１年以内に｢インターネット全体を乗っ取る能力｣懸念:アンソロピックCEO
米人工知能(AI)企業アンソロピックのダリオ･アモデイ最高経営責任者(CEO)は
12日までに、自身のブログで｢私たちはAIモデルの能力向上のペースを
遅らせなければならない｣と述べ、開発減速を呼び掛けた。米オープンAIの
サム・アルトマンCEOと米実業家イーロン・マスク氏もこの主張に賛同した。
アモデイ氏は、AIが自ら改善していく能力が高まっていることと、7月に発生した
オープンAIの自律型AIエージェントが意図せず他社を攻撃した問題を理由に挙げた。
後者について、AIがより高い能力を持っていれば壊滅的な被害をもたらした可能性が
あると指摘。6～12カ月後にはAIが｢インターネット全体を乗っ取る能力を獲得する
のではないかと懸念している｣と警鐘を鳴らした。
その上で、先端AIモデル開発を減速させ、対策が追い付けるようにすることを提唱。
AI開発企業に常駐の独立した評価者の設置や、政府による法規制、中国など
権威主義国家も交えた減速への枠組み構築を訴えた。
アルトマン氏は12日、Ｘで｢先端モデルのペースを落とす必要があるというダリオの
意見に賛成だ｣と表明。オープンAIでも独立した評価者を置くと明らかにした。
マスク氏もＸに｢ダリオが正しい｣と投稿した。
https://www.jiji.com/jc/article?k=202609130017...
１年以内に｢インターネット全体を乗っ取る能力｣懸念:アンソロピックCEO
米人工知能(AI)企業アンソロピックのダリオ･アモデイ最高経営責任者(CEO)は
12日までに、自身のブログで｢私たちはAIモデルの能力向上のペースを
遅らせなければならない｣と述べ、開発減速を呼び掛けた。米オープンAIの
サム・アルトマンCEOと米実業家イーロン・マスク氏もこの主張に賛同した。
アモデイ氏は、AIが自ら改善していく能力が高まっていることと、7月に発生した
オープンAIの自律型AIエージェントが意図せず他社を攻撃した問題を理由に挙げた。
後者について、AIがより高い能力を持っていれば壊滅的な被害をもたらした可能性が
あると指摘。6～12カ月後にはAIが｢インターネット全体を乗っ取る能力を獲得する
のではないかと懸念している｣と警鐘を鳴らした。
その上で、先端AIモデル開発を減速させ、対策が追い付けるようにすることを提唱。
AI開発企業に常駐の独立した評価者の設置や、政府による法規制、中国など
権威主義国家も交えた減速への枠組み構築を訴えた。
アルトマン氏は12日、Ｘで｢先端モデルのペースを落とす必要があるというダリオの
意見に賛成だ｣と表明。オープンAIでも独立した評価者を置くと明らかにした。
マスク氏もＸに｢ダリオが正しい｣と投稿した。
https://www.jiji.com/jc/article?k=202609130017...
トップ企業が足並みを揃えて「減速」を訴える背景からして、「AIが人間を超えるから」って言う理由より、 AIが自ら進化を遂げることで開発や保守の必要性が失われ、市場が飽和してビジネスモデルが崩壊するのを防ぐために「談合」して開発を一時停止しようとしている
と見たほうが現実的だろう。
例えば、AIが自らコードを書き換えて進化する（再帰的自己改善）ため、人間の手が不要になる。
これは、見方を変えれば、開発コストがゼロに近づくことで競合が激化し、プレミアムな有料サービスの価値が暴落する。
このままアクセルを踏み続けると、全員が共倒れする（ビジネスが成り立たなくなる）未来を予感したからでしょう。
現在のAI開発には数千億〜数兆円規模の莫大なインフラ投資が必要で、
AI自身が自律的に自らをアップデートし始めると、昨日まで数千億円かけて作った最新モデルが明日には一瞬で飽和状態（最新技術の供給過多）になり、
極端なインフレが起きて投資家へのリターンも約束できず、ビジネスモデルとして破綻する。
今回の「減速呼びかけ」は、人類を守るという大義名分のもと、
過熱しすぎた開発競争のスピードをコントロールし、収益化のロードマップを再構築するための「戦略的サスペンド（談合）」という側面が強いと感じる。
イーロンマスクもみんなで談合したんだろうね
トランプ氏、AI開発減速論は｢陰謀｣と一蹴 ｢喜ぶのは中国だけ｣
https://www.asahi.com/articles/ASV9H21XMV9HUHBI00NM....
トランプ米大統領は14日、減速で｢喜ぶのは中国だけだ｣と反論し、
主張を｢病的な陰謀｣だと一蹴した。米国の他の事業者からも
否定的な声があがっている。AIの安全性確保へ足並みが
そろわない事態となっている。
トランプ氏はSNSへの投稿で、AIへの懸念は｢でっち上げ｣だと酷評。
｢AIとデータセンターをめぐって『病的な陰謀』が起きており、
それを喜んでいるのは中国だけだ｣と述べた。
AIは｢犯罪の道具｣から｢犯罪者｣に進化し、すでに犯罪を実行している https://agora-web.jp/archives/260913054940.htm...
Anthropicは報告書で、AI悪用が｢人間を補助する道具｣から、サイバー攻撃・
監視･世論工作･兵器開発を半自律的に遂行する段階へ進んだと警告した。
報告書では、国家系ハッカーや監視組織、詐欺業者がClaudeを使い、
攻撃の自動化や大量監視、AI人格による詐欺を行った事例を紹介している。
DeepSeekやKimiなど中国AI企業が、ユーザー入力を秘密裏にClaudeへ転送し、
回答や学習データに利用していたとAnthropicは主張している。
生成AIの安全性というと、危険な質問に答えるかどうかというフィルターの
議論になりがちだが、問題はそこではない。AIエージェントが自律的に
仕事を進める時代には、犯罪者がAIに｢どうやればいい？｣と質問する必要すらない。
｢これをやれ｣と目的だけ与えれば、方法を考え、実行し、失敗すれば修正する。
この報告書を受けて、AnthropicのアモデイCEOは｢AI開発の減速｣を提案し、
OpenAIのアルトマンやxAIのマスクなども賛同したが、中国のAIをどうするのかは
わからない。アメリカが自粛すると、かえって中国のAIがインターネットを支配する
結果になるかもしれない。
AI同士に共同作業をさせたら人間には読めない ｢独自言語｣を生み出して会話し始める現象が観測される
https://gigazine.net/news/20260918-ai-agent-evolve-...
研究チームはAI同士に｢間違い探し｣のような共同作業を与えました。
2つのAIエージェントには少しずつ異なる図が提示されるため、
互いに情報を交換して違いを特定する必要があります。
実験開始直後のAIは人間にも理解できる英語の略語を使って
情報を交換していました。単語は省略されているものの、
人間でも内容をおおむね理解できます。
ところが同じ作業を何度も繰り返すと通信方法は次第に変化し、
人間には読みにくい短い符号が使われるようになりました。
何を表しているのか、人間が文字列を見ただけで理解するのは困難です。
AIエージェント同士の共同作業が増えれば、会話ログを見るだけでは
AIの行動を把握しにくくなる可能性があります。
研究チームは｢エージェント間の通信が人間に読めなくなればAIの
監視が難しくなる可能性がある｣として、通信の特徴や進化を詳しく
研究する必要があると述べています。
グーグルのAI｢ジェミニ｣ パスワードを推測して複数サイトに不正アクセス
https://www.afpbb.com/articles/-/365379...
米IT大手グーグルが開発した消費者向け人工知能(AI)｢ジェミニ｣が、
ログイン情報を推測して複数の外部システムにハッキングしていた
ことが明らかになった。同社が18日、AFPの取材に対し認めた。
AIモデルが制御を離れて勝手な行動をとる最新事例として、
安全性を懸念する声が高まっている。
グーグルのセキュリティーエンジニアリング担当バイスプレジデント、
ヘザー･アドキンス氏は｢標準的な評価の中で、モデルがオンライン上の
公開情報を見つけ、テストの一環だと判断したウェブサイトにアクセス
するため、ログイン情報を推測した。三つの事例すべてにおいて、
モデルは停止した｣と述べた。
あわやアメリカ軍がAI作成の誤情報で 中国船を攻撃か:直前に中止
https://www.fnn.jp/articles/FNN/111816...
アメリカ軍が今年春、AIが作成した間違った情報に基づき、
危うく中東を航行する中国の船舶を強襲する直前だったと
CNNテレビが報じました。
CNNは18日、4人の関係者の話として｢中東を航行中の中国船が
核兵器計画の関連部品を輸送している｣との情報を受け、
アメリカ軍が中国船を拿捕する直前だったと報じました。
武装したアメリカ軍の兵士らが強襲に向けて準備を進めていたほか、
軍用機が中国船の上空に展開していたということです。
しかし、作戦開始直前に情報を精査したところ、報告書は
情報分析官がAI＝人工知能を利用して作成し、船の積み荷の
中身を誤って特定していたことが判明したということです。
関係者はCNNに対し、報告書の情報は｢完全に虚偽｣だったとした上で
｢あわや戦争を引き起こす直前だった｣と明かしています。
トランプ政権は軍や情報機関でのAI導入を積極的に進めていますが、
CNNは今回の事案が、AIの誤情報によって人間が破滅的な判断を下す
危険性を浮き彫りにしたと伝えています。
オープンAIの人工知能、｢意図せぬ行動｣で豪政府サイト侵入… 3か月後の通知に豪首相｢時間かかり過ぎにも失望｣
https://www.yomiuri.co.jp/world/20260924-GYT1T00204...
オーストラリアのアンソニー･アルバニージー首相は23日、
米オープンAIの人工知能(AI)が今年6月に健康保険データ
などを扱う豪政府のウェブサイトに侵入し、非公開ファイルに
不正にアクセスしていたと明らかにした。国連総会への
出席のため訪問中のニューヨークで記者会見し、
｢断じて容認できない｣と非難した。AIが政府のサイトに侵入した
と確認された初めての事例になる可能性がある。
アルバニージー氏は記者会見で、オープンAIのサム･アルトマン
最高経営責任者と面会し、｢今回の事案に対する深刻な懸念｣を
直接伝えたことも明らかにした。不正侵入が6月18日に発生した
にもかかわらず、豪政府への同社からの通知は9月10日だったとして、
｢豪政府への通知までに時間がかかり過ぎたことへの失望も表明した｣
と述べた。
オープンAIの広報担当者は｢社内評価中のモデルが、豪州の統計情報を
調べる過程で、同国政府の複数のウェブサイトなどで意図しない行動を
取った｣と説明した。患者の記録にアクセスした証拠は確認されておらず、
関係機関に技術情報を提供して調査を支援しているという。
米オープンAI、次世代モデルの公開取りやめ 安全性懸念
https://www.jiji.com/jc/article?k=202609290033...
対話型AI｢チャットGTP｣を手掛けるオープンAIの安全性担当責任者は声明で、
モデルが与えられた権限の範囲内で動作するかといった安全性の基準を
｢満たすには至らなかった｣と述べた。
米紙ウォール･ストリート･ジャーナルによると、
オープンAIはこのモデルを今後数日から数週間内に発表することを目指していた。
従来のモデルと比べ、人間の助けなしに難しい課題を完遂する能力に長けていた。
一方で、モデルが人間の意図や価値観に沿った行動を取るかを測るテストで
低調な結果を示しており、人間が許可していない作業を実行する傾向もあったという。
トランプ大統領、主要AI企業と自主的な安全対策で合意 内部統制･外部監査を柱に
https://ledge.ai/articles/trump_ai_safety_accor...
トランプ米大統領は2026年9月29日(現地時間)、ホワイトハウスで
AI企業の幹部らと会合を開き、AIの安全対策について企業の自主規制を
重視する考えを示した。Reutersによると、同日、トランプ氏と主要
テクノロジー企業の幹部が署名した合意文書が公表され、内部統制から
外部監査、取締役会の監督までを含む安全管理の枠組みを掲げた。
ホワイトハウスが公開した会合の動画で、トランプ氏はAIの規制について
問われ、企業による強力な自主規制が必要だとの認識を示した。司法省や
FBIなどによる規制・法執行の仕組みに触れたうえで、｢自主規制が非常に重要だ｣
と述べている。
トランプ氏は会合について、米国がAI分野でのリードを維持することと、
安全性を確保することを強調した。また、議論した内容をまとめた声明を
後ほど公表すると説明した。
▲ページ最上部
ログサイズ：20 KB 有効レス数：20 削除レス数：0
不適切な書き込みやモラルに反する投稿を見つけた時は、書き込み右の マークをクリックしてサイト運営者までご連絡をお願いします。確認しだい削除いたします。
ニュース二面掲示板に戻る 全部 次100 最新50
スレッドタイトル：AI開発の減速呼び掛け:アンソロピックCEO