ИИ может «забыть» информацию по двум совершенно разным причинам, которые выглядят одинаково для пользователя, но требуют разных подходов к исправлению. Одна связана с контекстным окном, другая — с отсутствием записи в долгосрочную память.
Контекстное окно ИИ — это ограниченный объем оперативной памяти для обработки текущего запроса. Когда оно заполняется, старые данные вытесняются, и ИИ не может их вспомнить. Долгосрочная память — отдельное хранилище, куда информация записывается только при явном указании пользователя. Если данные не попали туда, ИИ никогда их не запоминал, даже если они были в недавнем запросе.
Чтобы понять, почему ИИ «забыл», нужно проверить два момента. Сначала посмотрите, не закончилось ли контекстное окно: если последний запрос был очень длинным, старые части могли вытесниться. Затем проверьте, было ли указано, что информация должна быть сохранена в долгосрочную память — часто пользователи предполагают автоматическое запоминание, но это не так.
Если причина в заполненном контекстном окне, разбейте запрос на несколько частей, чтобы каждая поместилась. Если данные не попали в долгосрочную память, явно скажите ИИ сохранить эту информацию, например: «запомни это на будущее». Это позволит избежать повторных ошибок в будущих взаимодействиях.
Для OneOneTalk различие между контекстным окном и долгосрочной памятью реализовано явно. Цифровой двойник имеет проверяемую долгосрочную память, где каждая запись содержит данные о источнике, времени, уровне доверия и области применения. При взаимодействии можно указать, что информация должна быть сохранена в долгосрочную память, а контекстное окно автоматически управляется, чтобы избежать неожиданного вытеснения. Это позволяет точно определить причину забывания и быстро исправить её.