Dari antara banyak manfaat yang ditimbulkan oleh kinerja machine learning yang
berkolaborasi dengan data, ada satu yang seringkali menjadi perbincangan yang hangat:
pengawasan berbasis AI (AI surveillance). Pengawasan berbasis AI memanfaatkan kemajuan
kinerja machine learning dalam mempelajari data-data yang ada yakni dengan mencocokkan
data yang diambil dari setiap individu berupa video atau gambar dengan data-data yang
tersimpan di database atau bahkan di Big Data untuk kemudian memperoleh prediksi dan
membantu pengambilan keputusan.
Teknologi pengawasan berbasis AI sudah menyebar dengan sangat cepat. Setidaknya
sudah ada 75 negara dari 176 negara di seluruh dunia yang menggunakan teknologi AI untuk
tujuan pengawasan. Hal ini meliputi smart city (56 negara), sistem facial recognition (64
negara), dan smart policing (52 negara). Di antara semuanya itu, China adalah penggerak
utama dalam hal pengawasan berbasiskan AI di seluruh dunia. Teknologi-teknologi yang
berhubungan dengan perusahaan China seperti Huawei, Hikvision, Dahua, dan ZTE telah
menyuplai perangkat-perangkatnya ke 63 negara (Feldstein, 2019).
Pengawasan oleh negara sebenarnya dapat diterima dalam kasus-kasus tertentu.
Pemerintah memiliki alasan yang sah untuk menangani pengawasan yang tidak berakar dalam
hasrat untuk menekan atau membatasi kebebasan individual. Hal ini sangat tampak dalam
penanganan kasus terorisme. Pengawasan berbasiskan AI akan dengan mudah melacak para
teroris dan perilaku yang mengarah kepada tindakan-tindakan terorisme. Pengawasan
berbasiskan AI mampu mengawasi 24 jam dalam sehari sehingga keamanan bisa terjamin.
Selain itu, orang-orang pun akan enggan untuk melakukan tindak kejahatan karena tahu bahwa
pasti akan terlacak. Pengawasan AI juga bisa digunakan untuk mengoptimalkan kinerja
aparatur negara khususnya dalam hal pemanfaatan anggaran negara (Pabubung, 2021).
Namun, teknologi punya “kodratnya” sendiri yang memengaruhi pemerintah dalam
mengambil keputusan. Teknologi AI surveillance memiliki algoritma-algoritma yang ternyata
sampai kini masih menyisakan problematika. Di samping itu, teknologi ini akan dengan mudah
menyasar golongan minoritas dan juga mereka yang dianggap sebagai pembangkang oleh
pemerintah. Teknologi telah mengubah cara bagaimana pemerintah memilih tindakan untuk
melakukan pengawasan. Internet telah membiakkan deretan tak terhingga dari data
transaksional atau metadata mengenai individu, seperti misalnya informasi mengenai surat-
surat elektronik, identifikasi lokasi, dan beragam aktivitas online lainnya (Feldstein, 2019). Di
era digital yang masif sekarang ini, segala sesuatu yang berkaitan dengan data selalu
mempertaruhkan sebuah dimensi penting dari hidup manusia: “privasi”.
Tulisan ini menggunakan metode kualitatif melalui analisis literatur untuk memahami
persoalan privasi terkait dengan penerapan teknologi kecerdasan buatan. Data yang digunakan
dalam tulisan ini berasal dari jurnal, buku, dan artikel yang terkait dengan martabat manusia,
etika, dan artificial intelligence dengan fokus pada terbitan sepuluh tahun terakhir. Kajian ini
menggunakan AI Surveillance sebagai objek material dan privasi dari kajian etis tentang
martabat manusia sebagai objek formal.
Luaran dari penelitian ini adalah satu (1) buah artikel jurnal nasional terakreditasi (Sinta 4).