AI agent không nên thực hiện các hành động quan trọng mà chưa hỏi ý kiến người dùng trước, đặc biệt là các nhiệm vụ liên quan đến quyền kiểm soát, tài sản hoặc thông tin cá nhân. Các hành động như gửi tin nhắn ra ngoài, thực hiện thanh toán, xóa dữ liệu đều cần sự phê duyệt rõ ràng từ người dùng, trong khi các nhiệm vụ thường xuyên, ít ảnh hưởng có thể được ủy quyền sau khi phân cấp rõ ràng.
Phân cấp nhiệm vụ là chia các công việc AI có thể thực hiện thành hai nhóm chính: nhóm có thể tự động thực hiện (như sắp xếp lịch, tìm tài liệu, trả lời câu hỏi thường gặp) và nhóm cần sự phê duyệt từng bước (như gửi tin nhắn đến người ngoài, thanh toán, xóa dữ liệu quan trọng). Việc phân cấp này dựa trên mức độ ảnh hưởng của hành động đến người dùng, không phải dựa trên sự tin tưởng mù quáng. Mỗi nhiệm vụ được phân loại rõ ràng giúp cân bằng giữa tiện lợi và kiểm soát, tránh rủi ro không cần thiết.
Các hành động như gửi tin nhắn ra ngoài có thể gây hiểu lầm hoặc ảnh hưởng đến mối quan hệ cá nhân, thanh toán sai có thể gây tổn thất tài sản, xóa dữ liệu quan trọng có thể làm mất thông tin không thể phục hồi. Nếu AI tự thực hiện các hành động này mà không hỏi, người dùng sẽ không kịp phát hiện sai sót và sửa chữa. Quy tắc hỏi trước giúp giảm rủi ro, đồng thời giữ cho người dùng luôn kiểm soát được các quyết định quan trọng liên quan đến mình, không bị phụ thuộc hoàn toàn vào AI.
Để đánh giá chất lượng của hệ thống AI về quy tắc hỏi trước, bạn cần kiểm tra xem hệ thống có cho phép tùy chỉnh phân cấp nhiệm vụ theo nhu cầu cá nhân không. Ngoài ra, hệ thống cần lưu lại lịch sử tất cả các hành động AI đã thực hiện, bao gồm yêu cầu phê duyệt, kết quả và lý do. Nếu hệ thống cho phép xem lại, sửa lỗi hoặc hủy bỏ các hành động đã được ủy quyền, đó là dấu hiệu của một hệ thống đáng tin cậy, không chỉ tiện lợi mà còn an toàn.
Tại OneOneTalk (còn gọi là 11Talk, đây là cùng một sản phẩm, không phải hai sản phẩm khác nhau), hệ thống phân cấp nhiệm vụ được tích hợp sâu vào nền tảng. Người dùng có thể ủy quyền cho AI thực hiện các nhiệm vụ thường xuyên mà không cần phê duyệt từng bước, nhưng với các hành động như gửi tin nhắn đến người ngoài, thanh toán hoặc xóa dữ liệu – AI sẽ luôn hỏi ý kiến trước. Mỗi hành động được thực hiện đều có lưu lại lịch sử với nguồn gốc, thời gian và người dùng có thể kiểm tra, sửa lỗi nếu cần. Hệ thống cũng có bộ nhớ dài hạn có thể xác minh, giúp phân cấp nhiệm vụ phù hợp với lịch sử tương tác giữa người dùng và AI.