トランプ「最新AIを米国以外に使わせるな！」→日本でも使えなくなる

CNBCによると、Anthropic（アンソロピック）は米国時間6月12日午後5時21分、米商務省から前例のない命令を受けた。「Claude Fable 5」「Claude Mythos 5」の2モデルへのアクセスを米国籍の者に限定せよという内容だ。あまりに広範な制限であったため、Anthropicはこれに従うべく、全ユーザーに対して両モデルを利用停止とした。Anthropicによる発表内容はこちらだ。

【画像】Fable 5が利用できないとClaudeで表示されるようになった

米政府の命令は、AnthropicのMythosモデルにガードレール（安全装置）を施した版であるFableを標的としており、米国におけるフロンティアAI開発のあり方を一変させる可能性がある。

この命令は、米政府が、Anthropicのいう「ジェイルブレイク」（脱獄）」を発見したと主張を受けたものだ。ジェイルブレイクとは、Fableの安全ガードレールを迂回するためにユーザーが悪用しうる手法を指す。Axiosによると、この措置は、別の企業がMythosをジェイルブレイクしたと主張したことを受けたものという。政権高官は、トランプ政権がAnthropicにリリースの一時停止を求めたものの失敗に終わった後に、初めて実施されたと述べた。

Anthropicは強く反発しており、冒頭で触れた発表で、政府の対応は実際のリスクに比して不釣り合いだと主張した。ただしAnthropicは、外国籍の者によるFable 5およびMythosへのアクセスを停止するトランプ政権の指示に従っていると、Bloombergが報じている。

だが同社の抵抗は、より大きな問いの前ではかすむかもしれない。創業者主導のAI企業が発してきた「人類の存亡に関わるリスク（存亡リスク。Existential Risks）」への警告が、政策決定者によって文字どおりに受け止められたとき、何が起きるのか。

https://news.yahoo.co.jp/articles/33e87002c7b6ee574b531...

返信する