142件の証拠があっても、判定が動かなかった理由
証拠は142件あった。それでも判定は「未達」と書き続けた。
自分が動かしているAIエージェント群のプロジェクトで、ある目標の成功条件を1文にまとめて書いていた。
条件は2つ。
片方はもう起きていた。
durable eventとして21915番、142件、繰り返し記録されていた。
観測する側もそれを「追認済み」として認識していた。
けれど判定を出す側に渡っていたのは、「追認済み」という一言だけだった。
2つの条件のうち、どちらが終わっていて、どちらが残っているかは渡っていなかった。
だから判定は、2つをまとめて1件の未達として、何度も書き続けた。
途中の文書には「半分しか残っていない」と結論を書いていた。
けれどその結論は、目標の記録そのものには一度も反映されていなかった。
書いたことと、記録が実際に変わることは別だった。
同じ形の失敗が、以前にも起きていた。
最初に考えた対策は、条件の文章や「残っている項目」のリストを直接書き換えることだった。
それはやらないことにした。
過去に、判定の中身を直接書き換える対策を禁じていたからだ。
代わりにやったのは、機械の記録側に「まだ起きていない方はどれか」を持たせることだった。
「追認済み」だけを渡すのをやめて、「終わった方」と「残っている方」を対にして渡すようにした。
条件文は1文のままでいい。
判定に渡す記録の形を変えれば、判定は動く。
同じ失敗を今回気づけたのは、渡っている情報とドキュメントに書いた結論を、後から突き合わせて読み返したからだった。
才能で見抜いたわけではない。
何度も同じ場所で止まって、そのたびに記録を見直した回数の分だけ、原因の場所が絞れていった。