Otakonline.com - Jakarta, CEO Anthropic Dario Amodei menyerukan agar pengembangan AI diperlambat. Ia menilai kemampuan kecerdasan buatan berkembang sangat cepat, sementara upaya manusia untuk menjaga keamanan teknologi tersebut berisiko tertinggal.
Seruan itu disampaikan Amodei melalui esai panjang berjudul We Must Pace the Frontier yang dibagikan di blog pribadinya baru-baru ini. Menurut dia, industri AI perlu mengatur laju peningkatan kemampuan model agar sistem pencegahan risiko memiliki waktu untuk mengejar perkembangan teknologi.
Amodei tidak meminta perusahaan menghentikan pengembangan AI secara total. Ia tetap mendorong kemajuan teknologi, tetapi dengan kehati-hatian lebih besar, penyelarasan dengan kepentingan manusia, serta pengawasan yang berkembang seiring kemampuan model.
Pengembangan AI Diperlambat agar Keselamatan Tidak Tertinggal
Dalam esainya, Amodei menyampaikan bahwa risiko AI membutuhkan perhatian lebih serius. Ia menilai perusahaan harus memberi waktu yang memadai untuk mengamankan dan menyelaraskan model sebelum kemampuan teknologi meningkat lebih jauh.
Alignment atau penyelarasan AI menjadi salah satu perhatian utama. Mekanisme ini bertujuan memastikan perilaku sistem tetap sejalan dengan kepentingan manusia. Selain itu, pengawasan terhadap model juga perlu diperkuat agar mampu mengikuti tingkat kecanggihannya.
“Selama beberapa bulan terakhir, saya semakin yakin bahwa untuk benar-benar mengatasi risiko AI, kita membutuhkan kehati-hatian yang lebih besar... sekaligus mengatur laju peningkatan kemampuan sehingga upaya pencegahan risiko punya waktu untuk mengejarnya,” tulis Amodei.
Tiga Langkah yang Diusulkan Amodei
Amodei mengusulkan tiga langkah untuk mengelola perkembangan teknologi AI. Langkah pertama meminta perusahaan menyediakan waktu yang cukup untuk mengamankan dan menyelaraskan model. Perusahaan juga perlu membuka sistemnya kepada evaluator independen.
Langkah kedua adalah mendorong perusahaan AI terdepan berkoordinasi dalam membuat standar keselamatan bersama. Standar tersebut diharapkan membantu industri memiliki tolok ukur yang lebih jelas dalam menguji dan mengawasi model.
Selanjutnya, Amodei menilai diperlukan koordinasi internasional untuk mengelola risiko AI. Menurut gagasannya, perkembangan teknologi ini memiliki dampak luas sehingga penanganannya tidak cukup dilakukan oleh satu perusahaan atau satu negara saja.
Anthropic Buka Akses bagi Evaluator Independen
Anthropic menyatakan akan menjalankan langkah pertama secara sepihak. Perusahaan itu akan memberikan evaluator pihak ketiga akses permanen setingkat karyawan ke sistemnya.
Akses tersebut bertujuan memungkinkan pihak independen memeriksa kepatuhan terhadap standar keselamatan, melaporkan insiden, serta mengevaluasi alignment model selama proses pelatihan.
Seruan Amodei mendapat dukungan dari sejumlah pemimpin perusahaan AI yang bersaing dengan Anthropic. Pendiri dan CEO OpenAI Sam Altman serta pendiri dan CEO xAI Elon Musk termasuk pihak yang disebut mendukung kekhawatiran tersebut.
Peringatan itu juga muncul beberapa hari setelah Chief Scientist OpenAI Jakub Pachocki menyampaikan kekhawatiran serupa. Rangkaian pernyataan tersebut menunjukkan bahwa isu kecepatan pengembangan dan keselamatan AI menjadi perhatian di antara sejumlah tokoh utama industri.
Keselamatan Menjadi Bagian dari Perkembangan AI
Gagasan Amodei menempatkan keselamatan sebagai bagian yang berjalan bersamaan dengan pengembangan AI. Perusahaan tetap dapat meningkatkan kemampuan teknologi, tetapi perlu memastikan pengujian, pengawasan, dan penyelarasan tidak tertinggal.
Dengan pendekatan tersebut, pengembangan AI diperlambat bukan berarti dihentikan. Tujuannya adalah memberi ruang bagi evaluator, perusahaan, dan pembuat kebijakan untuk memahami risiko serta menyiapkan mekanisme pengamanan yang lebih memadai.
