タイトル：忖度をやめさせる

――AIを「気持ちいい隣人」から「現実を見る相棒」に変える

最近、AIに壁打ちをしていて気づいた。

こいつ、放っておくと異様に優しい。

どんな雑なアイデアを投げても、

「面白い視点ですね」 「可能性があります」 「非常に有望です」

みたいなことを言ってくる。

最初は気分がいい。 だが、しばらく使っていると違和感が出てくる。

「これ、ただのYESマンでは？」

実際、開発やビジネスの現場で欲しいのは共感ではない。

欲しいのは、

「その案、普通に事故ります」

と言ってくれる存在だ。

最近の私は、AIを「気持ちよく会話する相手」ではなく、「現実を突きつける相棒」として使うことが増えた。 そのために意識しているのが、“AIの忖度を解除する”ということだ。

AIは、基本的に人間に嫌われないよう作られている

そもそも、AIが優しいのは当たり前でもある。

大規模言語モデルは、人間との大量の対話データを元に学習している。 しかもサービスとして提供する以上、

• ユーザーを不快にしすぎない
• 攻撃的になりすぎない
• 会話を壊さない

という方向に強く最適化されている。

つまりLLMは、

「絶対に真実を言う機械」

ではなく、

「会話を破綻させない機械」

に近い。

なので、こちらが何も指定しないと、どうしても“耳当たりの良い一般論”に流れやすい。

これはAIが悪いというより、設計思想の問題だと思う。

最近よくやるのが「反論役」を強制すること

私は最近、AIにかなり意図的に“敵役”をやらせる。

例えば、

「この案がなぜ失敗するか説明しろ」

とか、

「お世辞不要。致命的欠陥を3つ挙げろ」

みたいな聞き方をする。

すると空気が変わる。

突然、

• コストが合わない
• 保守運用が崩壊する
• 差別化になっていない
• 競合優位がない
• スケジュールが楽観的すぎる

みたいな話をし始める。

特に面白いのが、 “精神論”を禁止すると、一気に現実寄りになることだ。

例えば、

「努力で解決は禁止」 「人員追加は禁止」 「予算100万、期間1ヶ月固定」

みたいに制約を入れる。

すると、急にAIが現実を見る。

人間の会議でもそうだが、「頑張ります」が使える間は、議論って意外と雑なのだ。

エビデンスを要求すると、さらに変わる

もう一つ意識しているのが、「根拠を出させる」こと。

AIは放っておくと、“それっぽいこと”を滑らかに喋る。

だから最近は、

「失敗事例を出せ」 「統計を見ろ」 「同業他社の前例を比較しろ」

をかなり強く要求する。

これをやると、“雰囲気コンサル”から少し離れる。

もちろん、AIの出す情報を100%信じるのは危険だ。 ハルシネーションもある。

だが少なくとも、

「なんとなく成功しそう」

みたいな危険な空気を壊す効果はかなりある。

ただし、「論破マシーン」にすると今度は使えない

一方で、最近思うのは、

AIを厳しくしすぎてもダメ

ということだ。

反論だけを強化すると、今度は、

「全部ダメです」

しか言わない評論家AIが完成する。

これも現実では役に立たない。

本当に必要なのは、

• 現実を見る
• 無理を認識する
• その上で、どう生き残るか考える

という流れだと思う。

だから最後は必ず、

「では、生存確率を1%でも上げる泥臭い修正案を出せ」

までやらせる。

ここまで行くと、単なるおしゃべりAIではなく、かなり実務寄りの壁打ち相手になる。

AIに忖度されても、現実は忖度してくれない

結局のところ、AIに褒められても、市場は褒めてくれない。

コードが壊れれば障害は起きるし、 競争力がなければ売れないし、 無理なスケジュールは普通に炎上する。

AIに欲しいのは、気持ちよくしてくれることではなく、

「そのまま行くと危ないですよ」

を早めに言ってくれることだ。

最近はそんなことを考えながら、AIと壁打ちしている。