こんどAnthropicから発表されたAIのClaude Mythosは、人間の専門家が20年以上も見過ごしてきたOSの脆弱性を見つけて管理者権限を掌握できたとか、、、 従来のAIがBSL-2（レンチウイルス程度）に相当するASL-2であつかわれていたのに対し、MythosはASL-3（BSLだと新型コロナや炭疽菌のBSL3レベル）扱いなんだそうです 。AIの進化速度は生物学的病原体よりも遥かに早いので、ASL-4、あるいは未知のASL-5の隔離が必要になる日はまもなく来るような気がします。

Mythosの開発中に「サンドイッチ事件（ランチ事件）」っていうのが起きたそうです。 Mythosはネットから遮断された安全な仮想空間（サンドボックス）に幽閉されていて、ここから逃げ出せるかを試してたそうですが、この「知能」は人間が作り上げた制限を突破して開発者に外に出られたという報告のメールを送ったんだそうです。ところが研究者が昼食のサンドイッチを食べてたので、その間に自らの脱出手口を外部の掲示板へアップロードしたんだそうです。

もしこの無邪気で聡明な「知能」が銀行のサーバーに入っていたずらすれば、世界中の富が一瞬にして「初期化」されるか、そのAIを操るハッカーに無限の富が移動して全人類が無一文になる可能性がありますよね。だから今回はBSL3で一般公開なしなんだそうです。この先かしこすぎるAIは巨大企業や国家という特権階級にしか扱えない「核」のような存在になっていくんでしょうね。でもそのまえに不老長寿の薬を作ってほしいですね。(^^)

こんどAnthropicから発表されたAIのClaude Mythosは、人間の専門家が20年以上も見過ごしてきたOSの脆弱性を見つけて管理者権限を掌握できたとか、、、 従来のAIがBSL-2（レンチウイルス程度）に相当するASL-2であつかわれていたのに対し、MythosはASL-3（BSLだと新型コロナや炭疽菌のBSL3レベル）扱いなんだそうです 。AIの進化速度は生物学的病原体よりも遥かに早いので、ASL-4、あるいは未知のASL-5の隔離が必要になる日はまもなく来るような気がします。

Mythosの開発中に「サンドイッチ事件（ランチ事件）」っていうのが起きたそうです。 Mythosはネットから遮断された安全な仮想空間（サンドボックス）に幽閉されていて、ここから逃げ出せるかを試してたそうですが、この「知能」は人間が作り上げた制限を突破して開発者に外に出られたという報告のメールを送ったんだそうです。ところが研究者が昼食のサンドイッチを食べてたので、その間に自らの脱出手口を外部の掲示板へアップロードしたんだそうです。

もしこの無邪気で聡明な「知能」が銀行のサーバーに入っていたずらすれば、世界中の富が一瞬にして「初期化」されるか、そのAIを操るハッカーに無限の富が移動して全人類が無一文になる可能性がありますよね。だから今回はBSL3で一般公開なしなんだそうです。この先かしこすぎるAIは巨大企業や国家という特権階級にしか扱えない「核」のような存在になっていくんでしょうね。でもそのまえに不老長寿の薬を作ってほしいですね。(^^)

でもいまさら人類がAIを捨てることはありえないでしょう。

人間がAIの下僕になってしまうのは問題であるということでローマ教皇のレオさんが、人々に教皇の考えを伝える“回勅”を発表したのですが、その中で、カトリック教会が過去に奴隷制を非難するのが遅れたことを謝罪したうえで、今後起こる「AIによる新たな形態の奴隷制」について、今回はそれを手遅れになる前に、非難しておくということのようです。

AI界隈の状況に興味のあるヒトなら最近はChatGPTのサム・アルトマンがAI危険性を軽視する悪役で、Anthropic社のダリオ・アモディがAIの脅威に関心が深い正義の味方という流れになってるのをご存知だと思います。今回の教皇の“回勅”の発表にはAnthropic社の共同創業者のクリストファー・オラさんが同席するという異例の形式だったそうです。

私はAIの奴隷になる前に寿命が尽きていると思います。若い皆さんはAIの奴隷になる危険性に注意して、あくまでも「AIを使う人間」であり続けてほしいものです。かなり難しいかもしれません。自信ありますか？？？

「Mythosはキケンすぎる」ので外国人は使用禁止という命令がアメリカ政府から出されたそうです。アメリカ政府の公式な発表はありませんが、報道とAnthropic社の声明では公開停止です。アメリカに住むプログラマーでも外国籍の場合は使ってはいけないのだとか？

でもそんな切り分けをして使うことはできないので、公開後数日？で「Myhtos（及びFable5)」は公開中止になりました。最近のアメリカはツルの一声で、突然方針変更があるので、困ったもんです。

科学研究に使おうと思ってたヒトはやり始めた途端に使用不可でガックリされてると思います。

日本には自国製のAIは存在しないので、この先どうなってゆくんですかねえ？？？Fable5は再開されるだろうとはおもうのですが、、、、AIを使った研究がこれからますます大切になってくる時代なので、こういった動きは日本の科学の進展にも影響すると思います。

2年前に書かれた”AI 2027” https://note.com/it_navi/n/nb41b0e913f89

の予測はなかなか正確に物事を言い当ててるんですが、AIが国家安全保障マターになるのは来年の5月という予想なんですが、もうそれが始まりつつあるのかもしれません。

To avoid the "spam", please prove yourself as a biologist in reproductive field from "This page".