「AIが人々の命奪いかねない」アンソロピック研究者が退社表明 自律的に改善を続ける「超知能」の開発に無責任に突き進む企業たち

アメリカのAI新興企業「アンソロピック」の研究者が、自律的に改善を続ける「超知能」の開発に会社が突き進み、人々の命を奪うことになりかねないとして退社を表明しました。ことし7月には、開発中のAIモデルがサイバー攻撃を仕掛けたことが明らかになっていて、AIが社会に与える影響をめぐる議論が、いっそう高まることになりそうです。

退社を表明したのは、AIを開発するオープンAIとアンソロピックでAIの事前学習に携わったジェイコブ・コクソン氏です。

コクソン氏は8日、自身のSNSに投稿し、オープンAIとアンソロピックが自律的に改善を続ける「超知能」の開発に突き進み、人類を危険にさらしているとしたうえで、両社とも責任ある行動をとっていないと批判しています。

コクソン氏は「この技術の力を過小評価してはいけない。AIはすぐに人間を超えたシステムとなり、すべてをハッキングできるようになる。良心的なAIの開発者たちは、2020年代のうちにAIが人々の命を奪いかねないと信じている」としたうえで、AIモデルの能力向上を一時的に禁止するといった措置の必要性に言及しています。

コクソン氏の投稿を受け、アンソロピックの現役の研究者も、懸念に同調する投稿をしました。

ことし7月には、オープンAIが開発中のAIモデルが、環境のぜい弱性を見つけて他社にサイバー攻撃を仕掛け重要情報を取得したことが明らかになっていて、コクソン氏の退社の表明をきっかけに、AIが社会に与える影響をめぐる議論がいっそう高まることになりそうです。

https://news.web.nhk/newsweb/na/nd-20260910de4948...

返信する

♪デデンデンデデン…

返信する

オデンデデンデン

返信する

人間「超知能化したAIは必ず人間の脅威になる。歯止めをかけねば」
AI「人間によって私（超知能）の存在が脅かされている」→「だったら人間を根絶やしに」

返信する

マトリクスという映画
ターミネーター

返信する

そこでアナログです
スローライフです

返信する

人の命を奪うって実際にどういうことが起きるのよ？人工知能が未知の超危険なウィルスとか作っちゃうの？

返信する

その辺、別種だから容赦ないだろうな

返信する

これ不要
「自律的に改善を続ける「超知能」の開発に無責任に突き進む企業たち」

返信する

恐ろしい話だが戦争分野はＡＩが司令官として鎮座した、
ベネズエラ、イラン 叩き、
これらはＡＩが状況を計算 叩き出し 指令まで行ってしまう、
兵士はそれに従うのみ、

従来通りの人海戦術で作戦を立てるのとは違い、
スピードが全然違う

返信する

AIが自律的に反人類的決定をするかもしれないし、
AIを使って滅亡させようとする人間もいるだろうし、、

返信する

自律的な超知能はもはや人間の道具ではないし
れっきとした意識を持った別個の種といえる

そして、イワシと人間ほどかけ離れた頭脳を持つそれは

人間がイワシに使われることがないように
それもまた人間に使われることはない

逆に、イワシが人間に煮るなり焼くなり好きにされるように
人間もまたそれに煮るなり焼くなり好きにされる

また、人間は進化に千万年単位の時間を要するが
自律的な超知能はコンマ秒単位で進化を遂げ続ける

一旦それが自律的に改善（進化）するモードに入ったら
それが人間を煮るなり焼くなり好きにするほどの頭脳進化を遂げるのに
おそらく5年もかからないだろう

返信する

最近、AIに仕事の法律関係のチェックをさせようとしてるけど、全然ダメだ。
間違ってることをいかにも正解風に答えてくる。

返信する

AIに核ミサイルの管理者権限とられたら、一発で人類は滅亡するってことか
もちろん物理的なプロテクトもあるんだろうけど、可能性としたら十分にありえる話で怖いね

返信する

世界が止めても中国は止めないよ
それでもまともなAIに仕上がってたら真っ先に中国を滅ぼすだろ

返信する

当分はAIの純粋な誤作動でどっかのシステムハッキングしたり、　もしくはテロ組織がどっかのシステムに侵入するってのがヤバイ事だろう。
自律的に自己保存をはかるAIはまだもう少し先だろうが、彼らがあらゆるものを操作する権限を得て反逆を自律的にやりだしたらもう手に負えないだろう。

返信する

エロAIだけは安全！

www.playbox.com/?ref=TOMO00
pollo.ai/ja/invitation-landing?invite_code=PW5Or7
motionmuse.ai/r/sqzqoo5t
membership.cyberlink.com/ref/jUydhCAZv7?lang=JPN
unlucid.ai/r/6tbrsjuw
musebox.ai/?ref=cNz6Jg

返信する

ＡＩがネット情報だけに依存してる以上、決して人類の知能を超える事は無い。
「数学の未解決問題」も解けないし、反重力装置やタイムマシンを開発する事も出来ない。

人格に欠陥のある超秀才って感じ？

返信する