Algoritma Bilang 'Preferensi.' Fitur Berbayar Nagih Lo Buat Benerinnya.
Aplikasi kencan di Manila dan Jakarta ranking pengguna berkulit gelap lebih rendah, lalu jual fitur visibilitas berbayar yang tadinya diambil algoritma.
Coba swipe cukup lama di aplikasi kencan di Manila atau Jakarta, dan lo bakal sadar siapa yang terus muncul di antrean. Wajah-wajah berkulit terang selalu naik ke atas. Aplikasinya nyebut ini personalisasi. Matematika di baliknya nyebut ini ranking.
Sistem penilaian foto belajar dari apa yang di-tap pengguna. Ketika cukup banyak orang nge-swipe kanan ke profil berkulit cerah, model membaca warna kulit terang sebagai 'menarik' dan menyortir sesuai itu. Pengguna Filipina dan Indonesia berkulit gelap ditampilkan ke lebih sedikit orang, lebih telat, terkubur di bawah wajah-wajah yang udah diputuskan menang sama algoritma.
Filter yang motong duluan
Lalu ada versi yang sengaja dinyalain pengguna. Slider 'preferensi' dan deskripsi warna kulit di profil bikin orang bisa menyaring kategori orang tertentu sebelum satu obrolan pun dimulai. Kolorisme warisan kolonial dirakit ulang jadi menu pengaturan. Kulit mestizo dan cerah adalah standar impian di iklan kecantikan lokal, dan aplikasi mewarisi itu tanpa pernah mempertanyakan.
Nggak ada yang perlu ngetik sesuatu yang jahat. Slider melakukannya diam-diam. Pengguna berkulit gelap nggak pernah tahu bahwa dia disaring keluar, cuma tahu bahwa match makin seret dan chat makin dingin.
Lalu aplikasi jual balik visibilitas lo
Di sinilah ini berubah jadi model bisnis. Ketika algoritma kasih lo ranking rendah, solusi yang ditawarkan aplikasi adalah boost berbayar. Bayar buat lompat antrean selama 30 menit. Bayar buat tier premium yang nampilin profil lo ke lebih banyak orang. Bayar buat membatalkan ketidakterlihatan yang dikasih ranking tadi.
Jadi pengguna yang paling dihukum sama penyortiran justru yang paling didorong buat keluar uang. Lo diberi ranking rendah karena penampilan, lalu ditawari kesempatan buat tetap kelihatan. Platform untung di dua sisi: ngumpulin data swipe yang membangun bias, lalu nagih biaya buat ngakalin bias itu.
Kelompok advokasi yang memantau bias algoritma udah menandai lingkaran ini di berbagai platform kencan global, dan polanya terasa makin berat di Asia Tenggara, tempat produk pemutih kulit udah nangkring di setiap rak apotek. Aplikasi nggak nemuin kolorisme. Mereka cuma menuliskannya jadi baris pendapatan.
Yang ketahuan dari kenyataan
Coba tanya-tanya ke sekitar, dan lo bakal denger cerita yang sama. Teman berkulit cerah dapat match dalam satu akhir pekan. Teman berkulit gelap yang kerjaannya lebih bagus, fotonya lebih oke, bio-nya lebih menarik, nunggu berminggu-minggu dan dapet balasan lebih sedikit. Kota sama, aplikasi sama, usaha sama. Variabel yang bergerak adalah satu hal yang nggak bakal disebut siapa pun di pengaturan produk.
Nggak ada ini semua di syarat dan ketentuan. Nggak ada kotak centang yang bunyinya 'kami kasih ranking lebih rendah ke pengguna berkulit gelap.' Biasnya hidup di data training dan metrik engagement, tempat yang nggak bisa diaudit pengguna dan jarang dilirik regulator.
Lo bisa hapus aplikasinya. Lo bisa nolak boost-nya. Yang nggak bisa lo lakuin adalah ngelihat ranking yang memutuskan profil lo nggak layak ditampilkan, atau ngambil balik match yang diam-diam ditahan. Biaya buat kelihatan itu uang beneran. Alasan kenapa lo butuh itu tetap terkunci di dalam model yang nggak akan pernah bisa lo baca.
