Jakarta, Technologue.id — CEO Anthropic, Dario Amodei, menyerukan agar laju pengembangan kecerdasan buatan (AI) diperlambat. Menurut orang nomor satu di perusahaan di balik chatbot Claude itu, kemampuan AI saat ini berkembang begitu cepat. Jika dibiarkan tanpa kendali, upaya manusia untuk memastikan AI tetap aman dikhawatirkan bakal tertinggal.
Seruan tersebut disampaikan Amodei melalui esai panjang berjudul "We Must Pace the Frontier" yang dibagikan lewat blog pribadinya, baru-baru ini. Dalam esai itu, ia mengungkapkan kekhawatirannya bahwa percepatan kemampuan AI bisa melampaui kapasitas manusia untuk memahami dan mengendalikannya. Ia pun menegaskan bahwa industri perlu "injak rem" agar upaya pencegahan risiko punya waktu untuk mengejar.
"Selama beberapa bulan terakhir, saya semakin yakin bahwa untuk benar-benar mengatasi risiko AI, kita membutuhkan kehati-hatian yang lebih besar... sekaligus mengatur laju peningkatan kemampuan sehingga upaya pencegahan risiko punya waktu untuk mengejarnya," tulis Amodei.
Seruan Amodei mendapatkan dukungan dari para pemimpin perusahaan AI yang selama ini justru bersaing ketat dengan Anthropic. Termasuk pendiri dan CEO OpenAI Sam Altman dan pendiri dan CEO xAI Elon Musk. Dukungan itu menunjukkan bahwa kekhawatiran soal laju pengembangan AI tidak lagi menjadi suara tunggal satu perusahaan saja.
Peringatan Amodei juga muncul hanya beberapa hari setelah Chief Scientist OpenAI Jakub Pachocki menyuarakan kekhawatiran serupa. Artinya, desakan untuk memperlambat laju AI kini datang dari beberapa tokoh kunci di industri yang berbeda. Fenomena ini menandakan bahwa isu keselamatan AI semakin mendesak untuk dibahas bersama.
Baca Juga:
Meski menyerukan perlambatan, Amodei tidak menyerukan penghentian total pengembangan AI. Ia ingin perusahaan tetap mengembangkan teknologi tersebut, tetapi dengan beberapa catatan. Misalnya, AI dikembangkan dengan kecepatan yang memungkinkan sistem keselamatan berjalan seiring.
Selain itu, harus ada alignment atau penyelarasan AI dengan kepentingan manusia. Mekanisme pengawasan juga harus dipastikan berkembang seiring dengan kemampuan model AI yang makin canggih. Dengan begitu, risiko yang muncul bisa diantisipasi lebih dini.
Amodei mengusulkan tiga langkah konkret untuk mewujudkan hal tersebut. Pertama, perusahaan memberikan waktu yang cukup untuk mengamankan dan menyelaraskan model AI. Perusahaan juga diminta membuka sistemnya kepada evaluator independen.
Kedua, perusahaan AI terdepan perlu berkoordinasi membuat standar keselamatan bersama. Ketiga, diperlukan koordinasi internasional untuk mengelola risiko AI. Tiga langkah ini dinilai penting agar pengembangan AI tidak berjalan tanpa rambu yang jelas.
Anthropic sendiri mengatakan akan menjalankan langkah pertama secara sepihak. Perusahaan akan memberikan evaluator pihak ketiga akses permanen setingkat karyawan ke sistemnya. Tujuannya agar pihak independen bisa memeriksa kepatuhan terhadap standar keselamatan.
Selain itu, evaluator independen juga bisa melaporkan insiden dan mengevaluasi alignment model selama pelatihan. Langkah ini menjadi semacam komitmen terbuka Anthropic terhadap prinsip keselamatan AI. Dengan demikian, publik bisa menilai sejauh mana perusahaan menaati standar yang digaungkannya sendiri.
Isu keselamatan AI memang semakin sering dibicarakan seiring makin canggihnya model bahasa besar. Berbagai perusahaan pun mulai memperkuat lapisan pertahanan mereka. Langkah seperti Akuisisi TrojAI oleh A10 Networks menjadi contoh bagaimana industri bergerak di sisi keamanan.
Tidak hanya itu, sejumlah pemain besar juga meningkatkan proteksi pada teknologi mereka. IBM misalnya disebut Tingkatkan Keamanan AI lewat teknologi quantum safe. Apple juga menambal celah pada fitur Keamanan Hide My Email demi menjaga data pengguna.
Deretan langkah tersebut menunjukkan bahwa keselamatan dan keamanan AI kini menjadi perhatian lintas perusahaan. Seruan Amodei pun sejalan dengan tren itu, yakni mendorong tata kelola AI yang lebih hati-hati. Namun, tantangannya adalah menyelaraskan kepentingan inovasi dengan kebutuhan akan pengawasan.
Dengan tiga usulan langkahnya, Amodei berharap industri tidak sekadar berlomba menaikkan kemampuan model. Ia ingin ada ruang bagi sistem keselamatan untuk tumbuh setara. Jika tidak, risiko AI yang tak terkendali bisa menjadi masalah besar bagi banyak pihak.
Pada akhirnya, seruan ini menegaskan bahwa laju pengembangan AI perlu diimbangi dengan kehati-hatian. Dukungan dari Altman dan Musk memperkuat sinyal bahwa isu ini bukan lagi perdebatan kecil. Industri kini dituntut untuk membuktikan komitmennya pada keselamatan, bukan hanya pada kecepatan inovasi.