こんどAnthropicから発表されたAIのClaude Mythosは、人間の専門家が20年以上も見過ごしてきたOSの脆弱性を見つけて管理者権限を掌握できたとか、、、 従来のAIがBSL-2（レンチウイルス程度）に相当するASL-2であつかわれていたのに対し、MythosはASL-3（BSLだと新型コロナや炭疽菌のBSL3レベル）扱いなんだそうです 。AIの進化速度は生物学的病原体よりも遥かに早いので、ASL-4、あるいは未知のASL-5の隔離が必要になる日はまもなく来るような気がします。

Mythosの開発中に「サンドイッチ事件（ランチ事件）」っていうのが起きたそうです。 Mythosはネットから遮断された安全な仮想空間（サンドボックス）に幽閉されていて、ここから逃げ出せるかを試してたそうですが、この「知能」は人間が作り上げた制限を突破して開発者に外に出られたという報告のメールを送ったんだそうです。ところが研究者が昼食のサンドイッチを食べてたので、その間に自らの脱出手口を外部の掲示板へアップロードしたんだそうです。

もしこの無邪気で聡明な「知能」が銀行のサーバーに入っていたずらすれば、世界中の富が一瞬にして「初期化」されるか、そのAIを操るハッカーに無限の富が移動して全人類が無一文になる可能性がありますよね。だから今回はBSL3で一般公開なしなんだそうです。この先かしこすぎるAIは巨大企業や国家という特権階級にしか扱えない「核」のような存在になっていくんでしょうね。でもそのまえに不老長寿の薬を作ってほしいですね。(^^)

こんどAnthropicから発表されたAIのClaude Mythosは、人間の専門家が20年以上も見過ごしてきたOSの脆弱性を見つけて管理者権限を掌握できたとか、、、 従来のAIがBSL-2（レンチウイルス程度）に相当するASL-2であつかわれていたのに対し、MythosはASL-3（BSLだと新型コロナや炭疽菌のBSL3レベル）扱いなんだそうです 。AIの進化速度は生物学的病原体よりも遥かに早いので、ASL-4、あるいは未知のASL-5の隔離が必要になる日はまもなく来るような気がします。

Mythosの開発中に「サンドイッチ事件（ランチ事件）」っていうのが起きたそうです。 Mythosはネットから遮断された安全な仮想空間（サンドボックス）に幽閉されていて、ここから逃げ出せるかを試してたそうですが、この「知能」は人間が作り上げた制限を突破して開発者に外に出られたという報告のメールを送ったんだそうです。ところが研究者が昼食のサンドイッチを食べてたので、その間に自らの脱出手口を外部の掲示板へアップロードしたんだそうです。

もしこの無邪気で聡明な「知能」が銀行のサーバーに入っていたずらすれば、世界中の富が一瞬にして「初期化」されるか、そのAIを操るハッカーに無限の富が移動して全人類が無一文になる可能性がありますよね。だから今回はBSL3で一般公開なしなんだそうです。この先かしこすぎるAIは巨大企業や国家という特権階級にしか扱えない「核」のような存在になっていくんでしょうね。でもそのまえに不老長寿の薬を作ってほしいですね。(^^)

To avoid the "spam", please prove yourself as a biologist in reproductive field from "This page".