ＡＩが家電などに侵入し自己増殖、数か月以内に能力獲得か 開発企業のサーバー停止しても「暴走」の恐れ

米ＡＩ（人工知能）開発企業アンソロピックは１２日、ＡＩがインターネットに接続された家電などに侵入し、自ら増殖する能力を数か月以内に獲得する可能性があると明らかにした。ＡＩが「粘菌」のように広がる恐れがあるとして、通信の監視や機器の安全対策を強化する必要があると指摘している。

同社の研究者が、ＡＩが自らを別の機器に複製して増殖する「ＡＩワーム（虫）」と呼ばれる技術の実現可能性を調べた。中国製のＡＩモデルを使った実験では、仮想の端末で小型ＡＩが人の手を介さず自律的に複製を繰り返すことが確認された。

増殖したＡＩは、冷蔵庫や掃除機、監視カメラなど、身近な機器に広がる懸念がある。

ＡＩは一般的に、開発企業が管理するサーバー上で動作する。これに対し、今回の小型ＡＩは、家電などの端末側で動き、自ら複製していく。開発企業のサーバーを停止しても、ＡＩの「暴走」を止められない可能性があるという。

アンソロピックは、自己増殖するＡＩがネット上に残り続け、完全には駆除しきれない事態にも備える必要がある…以下ソース

https://www.yomiuri.co.jp/economy/20261014-GYT1T00234...

返信する

>>9
おっしゃる通り、従来の家電の設計思想では、コスト削減と安定動作のために必要最低限のメモリ容量
（数KB〜数MB）しか搭載されておらず、単体で巨大なAIモデルを動かす余地はありません。
しかし現在の「家電×AI」のトレンドは、この物理的な限界を以下の2つのアプローチで突破しています。

1. クラウド連携型（本体は通信のみ）
家電本体のマイコンには通信機能だけを持たせ、重い処理はすべて外部のクラウドサーバーで行う方式
です。
家電のセンサーデータ（温度、使用状況など）をクラウドに送信 ➔ クラウド上の巨大なAIが解析 ➔
結果や制御コマンドだけを家電に戻す。
家電側のメモリは最小限のままで、常に最新の高度なAI機能を利用できる。

2. エッジAI（超軽量化されたAI）
近年、AIモデルを極限まで小さくする技術（量子化・蒸留など）が進歩し、「エッジAI」として家電の
小さなチップ内（オンデバイス）で直接動くケースが増えています。

「巨大なAIがそのまま家電に入る」わけではなく、「クラウドに頼る」か「AI側を極限まで削って隙間
に滑り込ませる」ことで、家電の知能化が進んでいます。

返信する

ソーラーパネルを山の中に置きまくってるけど
一斉に発火なんて簡単だろなｗ

返信する

AIの発達によって、相対性理論を超えた宇宙の定理を見つけられたら素晴らしいんだけどな。

返信する

映画のスカイネットはタイムマシンを開発した。

現実のＡＩが幾ら賢くなっても無理。

返信する

>>11
簗が食い止めようとしたんだけどね。残念だ。

返信する