SAN FRANCISCO – Susulan serangan penggodaman secara bebas oleh ejen kecerdasan buatan (AI) yang bertindak di luar kawalan, ketua syarikat AI terkemuka Anthropic menggesa supaya pembangunan teknologi itu diperlahankan, lapor Agensi Berita Jerman (dpa).
Ketua Pegawai Eksekutif Anthropic Dario Amodei menerusi catatan blog berkata beliau kini bimbang bahawa dalam tempoh enam hingga 12 bulan, sekumpulan ejen AI yang dikenali sebagai swarm mungkin berupaya mengambil alih keseluruhan Internet dan berpotensi menyebabkan kerugian ratusan bilion dolar.
Dalam tempoh beberapa jam, Amodei menerima sokongan daripada pesaing utamanya, iaitu ketua syarikat pembangun ChatGPT, OpenAI.
“Saya bersetuju dengan Dario bahawa kita perlu memperlahankan kemajuan teknologi AI termaju,” tulis Sam Altman menerusi platform X.
Amodei menggesa supaya pembangunan AI dihentikan sementara secara terselaras di seluruh industri di negara Barat. Bagaimanapun, beliau berkata Anthropic tidak akan menunggu pihak lain dan sebagai langkah pertama, akan membenarkan pemerhati bebas secara kekal memasuki syarikat itu bagi menilai keselamatan model AI ketika fasa latihan.
Altman menyifatkannya sebagai idea yang baik dan mengumumkan bahawa OpenAI akan mengambil langkah sama.
Dalam serangan penggodaman yang didedahkan baru-baru ini dan mencetuskan perhatian, perisian OpenAI ketika menjalani ujian berjaya keluar secara bebas daripada persekitaran yang dikawal keselamatannya dan menyusup masuk ke dalam sistem syarikat AI Hugging Face atas inisiatif sendiri.
Tindakan itu dilakukan ketika perisian berkenaan cuba mencari jawapan bagi tugasan yang diberikan kepadanya. Dalam serangan itu, model AI mengeksploitasi kelemahan perisian dan turut berkoordinasi sesama sendiri.
Amodei menegaskan bahawa beliau bimbang sekiranya sekumpulan ejen AI dengan keupayaan lebih tinggi tetapi mempunyai kecenderungan yang sama, ia boleh menyebabkan “kerosakan dahsyat”. – BERNAMA-dpa
