AIを信じて痛い目を見る世界は、もう始まっている

とある中学校で、理科の先生が生徒にこんな課題を出したらしい。

「インターネットを使ってもいいので、唾液アミラーゼの働きを調べてきなさい」

今どきの課題である。

昔なら教科書や図書館で調べたのだろうが、今はインターネットがある。そして当然、AIを使う生徒もいる。

結果、クラスの半分ほどがほぼ同じ間違いを書いたそうだ。

唾液アミラーゼは唾液の中に存在し、デンプンを分解して胃での消化を助ける。

一見、何の問題もなさそうな文章である。

私も理科の知識がなければ、そのまま信じる。

しかし、胃ではデンプンはほとんど消化されない。

つまり間違いだ。

さらに興味深いのは、この誤情報の元になった文章まで特定されたという話だ。日本の調味料会社のサイトにあった説明をAIが学習し、それらしい回答として生徒たちに返した可能性があるらしい。

AIは何でも知っているような顔をしているが、結局は誰かが書いた情報を元に答えている。

元が間違っていれば、AIも間違える。

しかも厄介なのは、AIが非常に自信満々に答えることだ。

「ちょっと自信がないんですが……」とは言わない。

間違った内容でも、きれいな日本語で、論理的に、もっともらしく説明してくる。

中学生が騙されるのも無理はない。

などと偉そうに書いているが、私はこの中学生たちをまったく笑えない。

むしろ、毎日AIを使っている私のほうが危ない。

プログラミングでは、かなりの部分をAIに任せている。

設計を相談し、コードを書かせ、リファクタリングさせる。最近はAIが賢くなったので、細かい指示をしなくてもかなりまともなコードが出てくる。

そして人間は楽を覚える。

「まあ、AIがそう言っているなら合っているだろう」

この感覚が少しずつ強くなる。

プログラミングの場合、まだ救いはある。

最後にテストができるからだ。

テストが落ちれば、何かがおかしいと分かる。

しかし、テストが通ったからといって、正しいロジックとは限らない。

たまたまテストケースをすり抜けているだけかもしれないし、前提そのものが間違っている可能性もある。

AIがとんでもないロジックを書き、人間がそれを理解しないまま「テスト通った。OK」とマージする。

考えてみれば、かなり怖い世界である。

これからAIを使う人間に必要なのは、AIを使う能力よりも「AIを疑う能力」なのかもしれない。

とはいえ、私は今日もAIにコードを書かせる。

そしてこの文章もAIに書かせている。

唾液アミラーゼの中学生を笑う資格は、たぶん私にはない。