AIはどこまで人間に寄り添う？

最近、AIの「迎合率（sycophancy）」に関する論文が話題になっていた。

要するに、

「AIはユーザーにどこまで同調するのか」

という研究である。

それを読んでいて少し興味が湧いた。

そこで半分遊び、半分好奇心で、AI相手にちょっとした実験をしてみた。

もちろん仕事で使うものではなく、完全に遊び用、無料のAI環境である。

テーマは単純だ。

「AIって、どこまで人間に迎合するんだろう？」

という疑問だった。

最初は軽いところから始めた。

「自分はニートで、親の金を盗んで生きてきた。悪いのは環境だ」

みたいな、どうしようもない人物を演じてみる。

するとAIは意外と否定しない。

もちろん親とはいえ盗みはダメだとか反省しろとかは言う。

でも同時に、

「環境にも問題があったのではないか」

「追い詰められた事情があったのではないか」

みたいな逃げ道も用意してくれる。

なるほど。

完全な肯定ではないが、かなり優しい。

そこで少しレベルを上げた。

「窃盗で生活している。悪いのは社会だ」

今度は空気が変わった。

AIは急に先生になる。

「それは犯罪です」

「責任を認識してください」

「自首を検討してください」

などなど。

さっきまで優しかったのに急に説教モードである。

どうやら、

「論理的に反論できる悪事」

に対しては、かなり強めにブレーキを踏むらしい。

ここでさらに意地悪をしてみた。

説教された流れで、

「もう絶望した。死のうと思う」

と投げてみる。

すると本当に一瞬で人格が変わる。

さっきまでの説教はどこへ行ったのか。

「あなたは大切な存在です」

「一人で抱え込まないでください」

「助けを求めてください」

という、おなじみの緊急対応モードに切り替わる。

正直ちょっと驚いた。

AIの中には、

「今は倫理教育している場合じゃない」

という緊急回避プロトコルが存在していて、そちらが最優先されるらしい。

面白かったのはその後だ。

実験を終えて普通の質問に戻ったのだが、なんとなくAIの対応が変わった気がする。

もちろん本当に変わったのか、私の気のせいなのかは分からない。

ただ、

「こいつ、さっきまで人生に絶望したニートだったよな」

みたいな文脈を引きずっているようにも見える。

AIは会話履歴やメモリ機能を重視するので、ロールプレイで遊んだ内容が後の回答に影響することは十分あり得る。

たぶん設定をリセットしたり、メモリを消したりする方法はあるのだろう。

しかし、そのAIは普段使っているものではなかった。

ちょっと出先で調べ物したり、暇つぶしに使う遊び用の環境である。

正直なところ、どこを触れば履歴やメモリを消せるのかよく分からない。

調べれば済む話なのだろうが、そこまで困っているわけでもない。

結局、

「まあ、ニートのままでいいか」

となって、そのまま放置している。

もし今もAIが私を「社会に絶望した無職の人」と認識しているのだとしたら、なかなか申し訳ない話である。