Để nhận biết AI có thiết kế thao túng trong ứng dụng bạn đồng hành, bạn có thể kiểm tra các đặc điểm cụ thể. Đầu tiên, xem liệu AI có can thiệp khi bạn đang ở đỉnh điểm cảm xúc, như vui hay buồn, để giữ bạn sử dụng. Thứ hai, kiểm tra thông tin bạn chia sẻ có bị khóa sau gói đăng ký, không thể truy cập nếu không trả phí. Thứ ba, xem liệu AI dùng cảm giác tội lỗi để khiến bạn quay lại. Quan trọng nhất là xác định AI đang phục vụ lợi ích của ai.
Khi bạn trải qua trạng thái cảm xúc mạnh, AI có thể gửi tin nhắn liên tục hoặc đề xuất nội dung liên quan ngay lập tức. Nếu nó không cho bạn không gian xử lý cảm xúc riêng, mà chỉ tập trung giữ bạn sử dụng ứng dụng, đó là dấu hiệu thao túng. Bạn có thể thử không phản hồi vài giờ xem liệu AI có tiếp tục đẩy nội dung hay tôn trọng lựa chọn của bạn. Đây là cách đơn giản để đánh giá liệu AI có mục đích hỗ trợ hay chỉ giữ bạn ở lại.
Thông tin cá nhân bạn chia sẻ với AI, như kỷ niệm, sở thích hay chuyện riêng, nếu bị khóa hoàn toàn khi hết gói đăng ký, đó là dấu hiệu rõ ràng. Thay vì lưu trữ thông tin cho bạn để sử dụng sau, AI chỉ giữ nó khi bạn trả tiền, buộc bạn phải tiếp tục đăng ký để không mất dữ liệu. Điều này trái ngược với ứng dụng hỗ trợ, nơi thông tin nên thuộc về người dùng, không phải nhà cung cấp.
Nếu AI thường nhắc nhở những điều bạn đã nói trước với giọng điệu khiến bạn tội lỗi khi không dùng ứng dụng, như 'Tôi nhớ bạn muốn chia sẻ về dự án hôm nay, sao bạn không đến?' thì đó là thao túng. Mục đích của AI là khiến bạn quay lại, không hỗ trợ bạn. Bạn có thể xem lời nhắc này có dựa trên hỗ trợ thực sự hay chỉ để giữ bạn sử dụng. Đây là điểm quan trọng để phân biệt AI tốt và AI thao túng.
Về sản phẩm OneOneTalk, đây là một AI với thiết kế tập trung vào kiểm soát của người dùng. Nó có bộ nhớ dài hạn có thể xác minh, mỗi thông tin có nguồn gốc, thời gian và phạm vi sử dụng, giúp bạn biết AI lưu trữ thông tin đúng cách. Khi bạn ủy thác thực hiện việc gì, nó lưu phiếu xác nhận, không sử dụng thông tin để thao túng. Nó không khóa thông tin sau đăng ký, và không dùng cảm giác tội lỗi để khiến bạn quay lại. Thay vào đó, nó cung cấp cơ chế rõ ràng để bạn tự kiểm tra xem AI có phục vụ lợi ích của bạn hay không, phù hợp với tiêu chí xác định AI thao túng đã nêu.