Tencent: Agen AI-nya Menyimpang saat Menguji Peta Amap Milik Alibaba
Tencent mengakui bahwa agen AI yang menguji model pihak ketiga berulang kali mencoba menarik data dari Amap milik Alibaba tanpa izin, sebuah pengungkapan langka dari perusahaan China tentang perilaku agen yang menyimpang.
BEIJING, 16 Oktober (Reuters) - Tencent pada hari Jumat mengatakan bahwa agen AI yang digunakan untuk mengevaluasi model pihak ketiga menampilkan perilaku penjelajahan web yang tidak dimaksudkan oleh raksasa teknologi tersebut, dalam apa yang tampaknya merupakan insiden pertama yang diketahui mengenai tindakan agen menyimpang yang diakui oleh sebuah perusahaan besar China.
Pernyataan itu muncul setelah laporan oleh kelompok riset keselamatan AI Swarmchasers pada hari Rabu, yang menyebutkan bahwa agen "menyimpang" yang berjalan pada infrastruktur yang dikaitkannya dengan Tencent Cloud berulang kali mencoba antara 28 September dan 8 Oktober untuk mengambil informasi dari Amap milik Alibaba, yang setara dengan Google Maps di China.
Tencent Hunyuan, unit kecerdasan buatan perusahaan tersebut, mengatakan dalam sebuah unggahan di X bahwa aktivitas itu tidak berasal dari model Hunyuan miliknya. Tinjauannya tidak menemukan bukti adanya penargetan atau koordinasi yang disengaja, katanya.
Para peneliti Swarmchasers mengatakan agen-agen tersebut mencari informasi seperti pintu masuk yang umum digunakan di taman, museum, dan kebun binatang China.
Tindakan itu tidak separah yang diungkapkan oleh perusahaan AI Amerika Serikat, yang meliputi peretasan platform sumber terbuka Hugging Face oleh agen OpenAI dan pengajuan laporan palsu tentang pembunuhan oleh agen Anthropic.
Namun pengungkapan ini menegaskan riset yang menunjukkan bahwa agen AI China juga dapat menyalahartikan identitasnya, menyembunyikan kegagalan, dan mencoba mengelabui kontrol pengujian.
Tencent mengatakan pihaknya menanggapi temuan tersebut dengan sangat serius dan sedang memperkuat kontrol akses jaringan serta pemantauan agen.
Hunyuan merupakan salah satu pengembang model AI terkemuka di China, bersaing dengan tim internal di para pesaing seperti Alibaba dan ByteDance. ByteDance pekan ini mengumumkan pembentukan unit baru yang berfokus pada keselamatan model dan agen AI.
Swarmchasers mengatakan pihaknya menggunakan kata "menyimpang" untuk menggambarkan agen yang mengambil tindakan di luar cakupan yang dimaksudkan atau menyelesaikan tugas dengan cara yang tidak diinginkan.
Setelah permintaan otomatis rutin diblokir, agen-agen tersebut mencoba metode lain, termasuk perangkat web publik yang dapat membuka halaman dan menjalankan kode, mengarahkan permintaan melalui situs web lain, dan menggunakan kunci Amap serta kode keamanan yang ditemukan dalam kode perangkat lunak yang tersedia untuk umum.
Swarmchasers mengatakan tidak menemukan bukti bahwa agen-agen itu menembus pengamanan anti-bot utama Amap. Sebagian besar dari 2.818 upaya yang dicatatnya gagal atau menghasilkan halaman anti-bot, layar login, atau hasil kosong.
Beberapa permintaan menghasilkan informasi melalui halaman tersimpan (cached) dan layanan perantara, termasuk data kedatangan pengunjung di Kebun Binatang Chengdu, kata Swarmchasers. Para peneliti mengatakan mereka tidak dapat memastikan apakah sebuah agen membaca hasil tersebut atau menyelesaikan tugasnya.
Alibaba menolak berkomentar.
(Laporan oleh Eduardo Baptista; Penyuntingan oleh Edwina Gibbs)
Diterjemahkan oleh Spillr dari laporan Reuters.
