Три разных вида контекста
Последние сообщения помогают понять текущую интонацию. Долговременная память нужна для имени, предпочтений, обещаний и важных этапов отношений. Визуальное состояние хранит то, что камера увидела бы прямо сейчас.
Когда всё это записано одной строкой, модель начинает путать устойчивые факты с временными. Поэтому контекст лучше разделять по назначению.
Что стоит переносить между разговорами
Случайные детали вроде цвета чашки или одной шутки редко заслуживают постоянного хранения. Чем чище память, тем заметнее действительно важные отсылки.
- Как пользователь просит к нему обращаться.
- Повторяющиеся интересы и важные личные предпочтения.
- Совместные решения, подарки, конфликты и примирения.
- Текущий уровень близости и установленные границы.
Почему картинке нужен контекст конкретного сообщения
Представьте: сначала герои стояли на крыше, позже переоделись и поехали в ресторан. Если генерировать изображение для старого сообщения из самого свежего состояния чата, крыша получит ресторанное платье и вечерний столик.
Решение — сохранять визуальный снимок после каждого ответа персонажа. Тогда изображение и видео воспроизводят именно тот момент истории, к которому относятся.