ByteDance Bentuk Tim Keamanan AI, Rekrut 10 Peneliti di Beijing, Shanghai, dan San Jose
Unit Seed milik pemilik TikTok menyebut dirinya sebagai laboratorium frontier China pertama yang membentuk departemen alignment mandiri, seiring meningkatnya sorotan terhadap agen AI otonom.
BEIJING, 15 Oktober (Reuters) - Unit riset AI Seed milik raksasa teknologi China ByteDance telah membentuk tim Alignment & Preparedness dan meluncurkan upaya perekrutan global untuk merekrut 10 peneliti, dengan menyatakan akan melakukan investasi jangka panjang dalam keamanan AI bagi model-modelnya yang semakin canggih.
Dorongan perekrutan ini muncul seiring meningkatnya sorotan terhadap keamanan agen AI di China dan AS, terutama karena para pengembang memberi mereka otonomi untuk mengakses Internet.
Alignment AI mengacu pada upaya memastikan sistem AI canggih bertindak sejalan dengan tujuan manusia dan persyaratan keamanan, khususnya saat menjalankan tugas-tugas kompleks yang melibatkan banyak tahap.
Pengumuman ByteDance merupakan pengungkapan publik yang jarang dilakukan oleh pengembang AI besar China tentang upaya khusus yang berfokus pada keamanan model frontier, alignment, dan kesiapan menghadapi risiko yang muncul.
Surat kabar yang didukung negara, The Paper, melaporkan pada Selasa bahwa Seed adalah laboratorium AI frontier China pertama yang membentuk departemen keamanan dan alignment mandiri.
Langkah ini juga muncul di tengah diskusi yang lebih luas antara AS dan China mengenai pagar pengaman AI, risiko keamanan, dan saluran untuk mengomunikasikan insiden besar terkait AI, meskipun kedua negara bersaing untuk meraih kepemimpinan dalam AI canggih.
Seiring meningkatnya kemampuan model, keamanan dan alignment tidak lagi sekadar perlindungan terhadap risiko, tetapi merupakan kemampuan inti yang akan menentukan apakah model dapat diterapkan dalam skala besar, kata Seed dalam unggahan perekrutan yang diterbitkan di akun resmi WeChat-nya pada Rabu.
Seed menyatakan akan menyediakan tim baru tersebut dengan kapasitas komputasi dan sumber daya riset yang sebanding dengan yang tersedia bagi tim model frontier. Posisi-posisi tersebut berbasis di Beijing, Shanghai, dan San Jose, California.
Risetnya akan mencakup pelatihan keamanan di seluruh tahap pengembangan model, pengujian otomatis untuk kerentanan, perangkat untuk memantau dan menjelaskan perilaku model, lingkungan pengujian agen AI, serta persiapan menghadapi risiko yang muncul.
Seed menyatakan juga akan mengupayakan pengujian independen dan bekerja sama dengan universitas dan lembaga riset, menerapkan riset keamanan di seluruh pelatihan, evaluasi, dan penerapan model.
(Laporan oleh Eduardo Baptista; Penyuntingan oleh Mark Potter)
Diterjemahkan oleh Spillr dari laporan Reuters.
