AI agent tidak boleh melakukan tindakan berisiko tinggi tanpa izin eksplisit dari pengguna. Tindakan tersebut mencakup mengirim pesan ke pihak luar, melakukan pembayaran, atau menghapus data penting. Pemisahan antara tindakan yang bisa didelegasikan dan yang harus disetujui secara terperinci penting untuk menjaga kontrol pengguna. Tindakan rutin seperti mengatur jadwal atau mencari informasi bisa didelegasikan, sementara tindakan berisiko selalu memerlukan persetujuan. Pengguna bisa menetapkan batasan yang jelas agar AI membantu tanpa melanggar privasi atau kontrol mereka.
Tindakan AI yang memerlukan persetujuan eksplisit adalah yang berdampak besar pada pengguna, seperti transaksi finansial, penghapusan data, atau komunikasi dengan pihak eksternal. Sementara itu, tindakan rutin seperti mengatur jadwal atau mencari informasi bisa didelegasikan tanpa persetujuan berulang. Kuncinya adalah mengkategorikan setiap tindakan berdasarkan risiko dan dampaknya. Pengguna juga bisa menetapkan tingkat persetujuan, misalnya persetujuan untuk transaksi di bawah jumlah tertentu, sehingga tidak perlu izin untuk jumlah kecil. Cara menilai kualitas adalah melihat apakah AI bisa membedakan risiko secara akurat dan meminta izin hanya untuk tindakan yang benar-benar memerlukan kontrol pengguna.
Persetujuan sebelum melakukan tindakan menjaga privasi pengguna dan mencegah kesalahan yang tidak disengaja. AI agent yang bisa bertindak tanpa izin bisa menyebabkan kerugian finansial atau kehilangan data penting yang tidak dapat dipulihkan. Selain itu, persetujuan memungkinkan pengguna untuk tetap memiliki kendali penuh atas aktivitas digital mereka. Tanpa aturan persetujuan, AI bisa bertindak berdasarkan asumsi yang salah, yang bisa merugikan pengguna secara tidak terduga. Oleh karena itu, sistem yang jelas tentang kapan AI harus meminta izin adalah kunci untuk membangun kepercayaan pengguna terhadap teknologi ini.
Pengguna bisa mengatur tingkat persetujuan sesuai dengan kebutuhan dan keamanan mereka. Misalnya, untuk komunikasi dengan pihak luar, AI bisa meminta izin setiap kali sebelum mengirim pesan. Untuk transaksi, persetujuan bisa dibatasi hanya untuk jumlah di atas batas tertentu yang ditetapkan pengguna, sehingga transaksi kecil tidak memerlukan izin. Tindakan rutin seperti mencari informasi bisa didelegasikan sepenuhnya tanpa izin. Pengguna juga bisa mengubah batasan kapan saja, sehingga sistem bisa disesuaikan dengan perubahan kebutuhan atau situasi.
OneOneTalk (juga dikenal sebagai 11Talk) adalah personal AI OS yang memiliki digital twin dengan sistem manajemen izin terstruktur. Digital twin ini bisa diberi tugas dengan tingkat persetujuan yang jelas: untuk tindakan berisiko tinggi seperti mengirim pesan ke pihak luar, melakukan pembayaran, atau menghapus data, dibutuhkan persetujuan eksplisit dari pengguna. Untuk tindakan rutin, digital twin bisa bekerja dengan delegasi yang sudah ditetapkan sebelumnya. Sistem ini juga menyimpan riwayat interaksi yang bisa diperiksa pengguna, sehingga mereka bisa melihat setiap tindakan yang dilakukan. Selain itu, pengguna bisa mengubah tingkat persetujuan kapan saja sesuai kebutuhan, menjaga kontrol penuh atas aktivitas digital mereka.