AIの「危険性」は、本当に危険なのか —— 最近ちょっと思うこと

最近、Anthropicの新モデル関連のニュースを見ていて、少し考えてしまった。

「このAIは危険すぎる」「サイバー攻撃に悪用される可能性がある」「だから公開は慎重に行う」

もちろん、本当に安全性を考えている部分はあるのだろう。ただ、どうしても別の側面も見えてしまう。

正直、これってものすごく強いプロモーションになっている。

言葉を選ばずに言えば「マッチポンプ」だ

「危険だから制限します」というメッセージは、裏を返せば、

「このAIは、それほど強力です」

という宣伝でもある。

昔のゲーム機で「このゲームは過激すぎて発売禁止」と言われると、逆にみんな欲しくなる、あの感じに近い。

特にAnthropicは、「安全性」をかなり前面に出す企業なので、

というブランドイメージを非常にうまく作っている。

危険性そのものが、差別化要因になっているわけだ。

ただ一方で、こういう「公開する・しない」の議論自体、もう時間の問題でしかないのではないかということだ。

仮にどこか1社が慎重になったとしても、半年後には別のモデルが出てくる。しかも最近は、中国系、オープンソース系、研究コミュニティ系まで含めると、進化速度が異常に速い。

結局、

「このモデルだけ封印すれば安全」

みたいな世界では、もうない。

攻撃用途に特化したAIなんて、表で議論されているかどうかとは別に、裏では普通に研究されているだろうし、たぶん既に実運用もされている。

なので最近は、この手のニュースを見るたびに、

「堤防が崩れ始めているのに、どのバケツで水を汲むか議論している感じだな」

と思ってしまう。

だから最近は、「どのAIが危険か」という議論よりも、

「AI前提で防御をどう作り直すか」

の方が、ずっと重要に見えている。まあ、私がこんなブログでいうまでもなくAI業界、政府も認識してるんだろう。

ただ、ここで人類が繰り返してきた厄介な誘惑がある。

「危険な武器は禁止すべきだ。ただし、自分だけは持っておきたい」

「相手の核兵器は悪。我が国の核兵器は防衛用だから問題ない」

そういう論理が罷り通る世界に、私たちは生きている。

だからAIに関しても、形だけは国際ルールができると思う。ただ、結局は穴だらけになるんじゃないかなと。

核兵器ですら、特定の国家が所有を独占しつつ、勝手に作る国があって軋轢を起こしている状況だ。AIで同じことが起きないと考える方が不自然だ。

しかも厄介なことに、AIは核兵器ほど強烈な制限がかかっていないし、今後もかからないだろう。巨大な施設も濃縮ウランもいらない。GPUとデータと電力があれば、誰でもどこでも作れてしまう。

結論としては、少しナショナリスティックな話になってしまうが、

各国が「自国防衛用」と銘打ったAIを、競うように開発していく

そういう流れになるんじゃないか、と思っている。

そして、その流れを止める手段は、たぶんもう存在しない。私たち個人にできるのは、「危険なAIを止める」議論ではなく、

「危険なAIが当たり前に存在する世界で、どう生き延びるか」

を考えることくらいかもしれない。