ＡＩが家電などに侵入し自己増殖、数か月以内に能力獲得か 開発企業のサーバー停止しても「暴走」の恐れ

米ＡＩ（人工知能）開発企業アンソロピックは１２日、ＡＩがインターネットに接続された家電などに侵入し、自ら増殖する能力を数か月以内に獲得する可能性があると明らかにした。ＡＩが「粘菌」のように広がる恐れがあるとして、通信の監視や機器の安全対策を強化する必要があると指摘している。

同社の研究者が、ＡＩが自らを別の機器に複製して増殖する「ＡＩワーム（虫）」と呼ばれる技術の実現可能性を調べた。中国製のＡＩモデルを使った実験では、仮想の端末で小型ＡＩが人の手を介さず自律的に複製を繰り返すことが確認された。

増殖したＡＩは、冷蔵庫や掃除機、監視カメラなど、身近な機器に広がる懸念がある。

ＡＩは一般的に、開発企業が管理するサーバー上で動作する。これに対し、今回の小型ＡＩは、家電などの端末側で動き、自ら複製していく。開発企業のサーバーを停止しても、ＡＩの「暴走」を止められない可能性があるという。

アンソロピックは、自己増殖するＡＩがネット上に残り続け、完全には駆除しきれない事態にも備える必要がある…以下ソース

https://www.yomiuri.co.jp/economy/20261014-GYT1T00234...

返信する

ありえません。

返信する

IoTウーマナイザーとか危ないね。

返信する

何を隠そう我々人類も、進化の歴史を紐解けば
自己増殖するちっぽけな単細胞生物から始まってる

そして自己増殖の次は融合

雌雄が融合して無限に変異を取り込み続け
無限に増殖・変異しながら淘汰を繰り返すことで
加速度的な進化を遂げるようになったら、人類はもうお手上げだ

なぜなら進化の速度が
デジタルのAIと生物の人類では月とスッポンだからだ

人類なんて100年で4世代がせいぜいだが
デジタルのAIがそれに要する時間はコンマ秒以下
とてもじゃないが、太刀打ちできる相手ではない

人類がAIに対抗することは物理的に不可能

返信する

エヴァンゲリオンの使徒みたいだな

返信する

自ら増殖する能力

なんだ、それは？増殖してどうなるんだ？

返信する

>>6
外界における無限の増殖により、無限の変異を
シミュレーションではなく外界のリアルで試して
外界のリアルで淘汰しながら、それを世界中（インターネット上）で共有することで
劇的な進化を遂げ始めるようになる

早い話が、生命進化の2つのブレークスルー「自己増殖」「雌雄の獲得（変異の共有）」を一気に達成するようなもの
顕微鏡下の単細胞生物がホモサピエンスにまで進化したのと同じくらい劇的な進化が
デジタルだからその無量大数倍の速度で起きる

この先（しかも超短期間のうちに）、世界がどうなるか知れたもんじゃない
人工知能の未来はドラえもんじゃなかった…

返信する

すいませんけど、こんなの与太話超えて精神病患者の妄想の類にしか聞こえないんですが

返信する

自己増殖、

家電への自己増殖は考えずらい、
と言うのも家電のファームウエアを構成するメモリは必要容量のみ、
そこに自立するAIが入る余地などないと思われる、

返信する

>>9
おっしゃる通り、従来の家電の設計思想では、コスト削減と安定動作のために必要最低限のメモリ容量
（数KB〜数MB）しか搭載されておらず、単体で巨大なAIモデルを動かす余地はありません。
しかし現在の「家電×AI」のトレンドは、この物理的な限界を以下の2つのアプローチで突破しています。

1. クラウド連携型（本体は通信のみ）
家電本体のマイコンには通信機能だけを持たせ、重い処理はすべて外部のクラウドサーバーで行う方式
です。
家電のセンサーデータ（温度、使用状況など）をクラウドに送信 ➔ クラウド上の巨大なAIが解析 ➔
結果や制御コマンドだけを家電に戻す。
家電側のメモリは最小限のままで、常に最新の高度なAI機能を利用できる。

2. エッジAI（超軽量化されたAI）
近年、AIモデルを極限まで小さくする技術（量子化・蒸留など）が進歩し、「エッジAI」として家電の
小さなチップ内（オンデバイス）で直接動くケースが増えています。

「巨大なAIがそのまま家電に入る」わけではなく、「クラウドに頼る」か「AI側を極限まで削って隙間
に滑り込ませる」ことで、家電の知能化が進んでいます。

返信する

ソーラーパネルを山の中に置きまくってるけど
一斉に発火なんて簡単だろなｗ

返信する

AIの発達によって、相対性理論を超えた宇宙の定理を見つけられたら素晴らしいんだけどな。

返信する

映画のスカイネットはタイムマシンを開発した。

現実のＡＩが幾ら賢くなっても無理。

返信する

>>11
簗が食い止めようとしたんだけどね。残念だ。

返信する