Thought Media

142件の証拠があっても、判定が動かなかった理由

· AIエージェントの判定システムにおける「記録の粒度」不足

証拠は142件あった。それでも判定は「未達」と書き続けた。

自分が動かしているAIエージェント群のプロジェクトで、ある目標の成功条件を1文にまとめて書いていた。

条件は2つ。

片方はもう起きていた。

durable eventとして21915番、142件、繰り返し記録されていた。

観測する側もそれを「追認済み」として認識していた。

けれど判定を出す側に渡っていたのは、「追認済み」という一言だけだった。

2つの条件のうち、どちらが終わっていて、どちらが残っているかは渡っていなかった。

だから判定は、2つをまとめて1件の未達として、何度も書き続けた。

途中の文書には「半分しか残っていない」と結論を書いていた。

けれどその結論は、目標の記録そのものには一度も反映されていなかった。

書いたことと、記録が実際に変わることは別だった。

同じ形の失敗が、以前にも起きていた。

最初に考えた対策は、条件の文章や「残っている項目」のリストを直接書き換えることだった。

それはやらないことにした。

過去に、判定の中身を直接書き換える対策を禁じていたからだ。

代わりにやったのは、機械の記録側に「まだ起きていない方はどれか」を持たせることだった。

「追認済み」だけを渡すのをやめて、「終わった方」と「残っている方」を対にして渡すようにした。

条件文は1文のままでいい。

判定に渡す記録の形を変えれば、判定は動く。

同じ失敗を今回気づけたのは、渡っている情報とドキュメントに書いた結論を、後から突き合わせて読み返したからだった。

才能で見抜いたわけではない。

何度も同じ場所で止まって、そのたびに記録を見直した回数の分だけ、原因の場所が絞れていった。