AIエージェントはすべてを忘れる。すべてのセッションはゼロから始まる。唯一の継続性は、最初に明示的に渡した内容だけだ。そしてナイーブな解決策は、すべてをMarkdownファイルの山に積み込んで全部読み込むことだ。
これはある程度は機能する。機能しなくなるまでは。
本当の問題はストレージではない
メモリの限界にぶつかると、ストレージについて考えるのが本能だ:データをどこに置くか?しかしそれは間違った問いだ。実際の制約はコンテキストウィンドウだ——エージェントはディスクから読まず、トークンから読む。メモリに入るすべてのものは、有限で高価なバジェットに収まらなければならない。
約2分
