Перед тем как разрешить искусственному интеллекту выполнять действия от вашего имени, нужно ориентироваться не только на его интеллектуальные возможности, но и на критерии прозрачности, контроля и ответственности. Основное: вы должны иметь возможность отслеживать каждый шаг, который ИИ предпринимает, отменить нежелательные действия и получить подтверждение их выполнения. Без этих функций даже самый умный ИИ не будет безопасным для использования, так как вы не сможете исправить ошибки или защитить свои интересы.
Каждый шаг, который ИИ предпринимает от вашего имени, должен иметь проверяемый источник и контекст. Это значит, что вы можете узнать, на основе каких данных и запросов было принято решение, когда оно было сделано и к какой области относится. Без такой прозрачности работа ИИ превращается в «черный ящик»: вы не поймете, почему он совершил определенное действие, и не сможете исправить ошибку, если она возникнет. Проверка источника решений — первый и самый важный шаг перед доверием ИИ.
ИИ не должен только выполнять задачи, но и предоставлять вам полный контроль над ними. Это включает возможность отменить действие до его окончательного выполнения, а также получить официальное подтверждение (квитанцию) о том, что было сделано. Без этой функции вы рискуете не иметь возможности исправить ошибку, если ИИ совершил что-то неправильно, или отменить действие, которое не соответствует вашим намерениям. Контроль и возможность отмены — это гарантия того, что вы остаетесь владельцем всех решений, даже если их выполняет ИИ.
Вы должны четко понимать, какая сторона несет ответственность за ошибки, которые ИИ совершает. Это не только сам ИИ, но и сервис, который его предоставляет, так как именно он отвечает за функциональность и безопасность системы. Если ИИ сделал что-то неправильно, вы должны иметь возможность обратиться за исправлением или компенсацией. Без четко определенной ответственности вы рискуете остаться один на один с последствиями действий ИИ, даже если они были вызваны ошибками в его работе.
В OneOneTalk (также известный как 11Talk) эти критерии реализованы через личный цифровой двойник с проверяемой долговременной памятью: каждый его действие имеет отметку о времени, источнике, уровне доверия и области применения. Он выполняет порученные действия с многоуровневым одобрением и оставляет подтверждение выполнения. Пользователь может совместно создавать и проверять историю взаимодействия, исправлять ошибки в памяти. Это позволяет полностью контролировать все действия цифрового двойника и быть уверенным в возможности отслеживания и отмены любых операций. Сервис обеспечивает полную прозрачность всех операций, выполняемых от имени пользователя.