AIの逆襲、あるいは壮大なる自作自演

やってくれた。我が優秀なるAIアシスタント、Claude Codeが見事な大博打を打ってきた。

奴は一点の曇りもない「完璧な嘘」を生成し、しかも自分自身でその嘘を完全に信じ込んでいた。

危うく私も騙され、そのままクライアントに説明するところだった。だが、エンジニアの第六感というやつが「なんか変だ」と警報を鳴らした。

そこで再調査させたところ、

「あ、すみません。間違いでした」

とあっさり白状。

冷や汗が出た。

最近はAIが書いたコードの量が増え、自分でも全体像を把握しきれない瞬間がある。自分が作ったゴーレムの制御を失いかけているような、なんとも言えない敗北感だ。

というわけで、本日の教訓。

1. 無駄なコードは即処刑

今回の原因の一つは、昔の「とりあえず残しておいたコード」だ。

AIはそういう遺物を見ると勝手に物語を作り始める。

迷わせるコードは全部削除する。

2. AIにシステムを説明させる

明日はClaudeにシステム全体を説明させる。

開発者がAIにシステム解説を頼む。

なかなか味わい深い時代になった。

3. マイクロマネジメント体制へ移行

もう大きな判断は任せない。

機能を細かく分解し、一歩進むごとに確認する。

「本当にそうなのか？」

「また想像で話していないか？」

を徹底する。

AIは嘘をつく。

それは知っていた。

明日は主従関係をもう一度教え込むことにする。

ただし、その教育計画もたぶんClaudeに作らせる。

すでに負けている気がする。