Filsuf AI Claude Amanda Askell Jadi Sorotan Dunia Teknologi

OtakOnline.com - New York — Di tengah persaingan sengit industri kecerdasan buatan, banyak perusahaan teknologi berlomba menciptakan AI paling cepat dan paling pintar. Namun, sedikit yang benar-benar memikirkan bagaimana karakter dan etika mesin tersebut saat berinteraksi dengan manusia.

Fenomena ini membuat pendekatan Anthropic berbeda dari perusahaan AI lain. Startup pengembang chatbot Claude itu justru merekrut seorang filsuf asal Skotlandia bernama Amanda Askell untuk membentuk kepribadian AI mereka.

Lewat tangan Amanda Askell, filsuf AI Claude berkembang bukan hanya sebagai mesin penjawab otomatis, tetapi juga menjadi chatbot yang mampu menunjukkan empati, etika, dan sikap yang lebih manusiawi saat diajak berbicara.

Amanda Askell, Filsuf di Balik AI Claude

Amanda Askell bukan lulusan teknik komputer seperti kebanyakan peneliti AI di Silicon Valley. Ia tumbuh besar di Prestwick, Skotlandia, dan sejak kecil tertarik pada pertanyaan soal moralitas serta makna kehidupan.

Ketertarikannya muncul setelah banyak membaca karya fantasi dari penulis terkenal seperti dan .

Latar belakang akademiknya juga unik. Askell mempelajari seni rupa dan filsafat di sebelum melanjutkan pendidikan filsafat di .

Puncak perjalanan akademiknya terjadi saat meraih gelar doktor di . Di sana, ia mendalami topik etika tak terbatas atau infinite ethics.

Bidang tersebut membahas bagaimana moralitas diterapkan dalam skala populasi yang sangat besar dan kompleks. Bekal itulah yang kemudian membawanya masuk ke dunia kecerdasan buatan modern.

Perjalanan dari OpenAI ke Anthropic

Karier Amanda Askell di industri AI dimulai pada 2020 saat bergabung dengan sebagai ilmuwan riset keselamatan AI.

Ia bahkan ikut terlibat dalam penelitian pengembangan GPT-3 yang menjadi fondasi chatbot modern saat ini. Namun, seiring waktu, Askell mulai merasa arah pengembangan AI berubah terlalu fokus pada kemampuan teknis.

Menurut berbagai laporan industri, ia khawatir aspek keselamatan dan etika mulai kurang diprioritaskan. Karena itu, Amanda Askell akhirnya memutuskan meninggalkan OpenAI.

Pada Maret 2021, Askell menerima tawaran dari , perusahaan AI yang didirikan sejumlah mantan petinggi OpenAI.

Di Anthropic, tugasnya sangat unik. Ia tidak hanya diminta memeriksa keamanan teknis AI, tetapi juga membentuk kepribadian chatbot Claude secara keseluruhan.

Askell kemudian dipercaya memimpin tim penyelarasan kepribadian AI atau Personality Alignment Team.

Cara Anthropic Mengajari Claude Jadi AI Beretika

Anthropic menggunakan metode bernama Constitutional AI atau CAI untuk membentuk karakter Claude. Pendekatan ini berbeda dari sistem AI lain yang umumnya hanya mengandalkan umpan balik manusia.

Melalui metode tersebut, Amanda Askell menyusun “konstitusi moral” setebal sekitar 30.000 kata yang menjadi pedoman perilaku Claude.

Nilai-nilai dalam dokumen itu diambil dari berbagai sumber penting, seperti Deklarasi Universal Hak Asasi Manusia PBB hingga aturan privasi perusahaan teknologi besar.

Tujuan utama metode ini bukan sekadar membuat chatbot patuh aturan. Sebaliknya, Claude dilatih agar mampu memahami prinsip moral secara mandiri.

Beberapa nilai utama yang diajarkan kepada Claude antara lain:

• Mengutamakan kejujuran
• Membantu pengguna secara aman
• Mengurangi potensi bahaya
• Menjaga privasi pengguna
• Menghindari jawaban manipulatif
• Tetap sopan tanpa menggurui

Selain itu, Claude juga diajarkan untuk menolak permintaan berbahaya secara halus dan tetap menghormati pengguna.

Filsuf AI Claude Ciptakan Chatbot Lebih Empati

Salah satu hal yang paling menonjol dari Claude adalah gaya komunikasinya yang terasa lebih hangat dibanding banyak chatbot lain.

Ketika pengguna menyampaikan masalah pribadi atau curhat emosional, Claude sering merespons dengan empati. Kalimat seperti “Itu terdengar sangat berat” menjadi bagian dari pendekatan komunikasi yang dirancang langsung oleh Askell.

Presiden Anthropic, , bahkan pernah mengatakan bahwa pengguna dapat merasakan sedikit karakter Amanda Askell ketika berbicara dengan Claude.

Namun, menciptakan AI berempati ternyata bukan pekerjaan mudah. Askell harus memastikan Claude tidak terdengar terlalu menggurui atau terlalu moralistis.

Karena itu, keseimbangan menjadi kunci utama. Claude tetap menjaga prinsip keselamatan tanpa membuat pengguna merasa dihakimi.

Tantangan Menanamkan Moralitas ke AI

Dalam proses pengembangannya, Askell menghadapi tantangan besar karena AI sering kali terlalu kaku memahami aturan.

Untuk mengatasinya, Anthropic terus melatih Claude agar mampu memahami konteks percakapan manusia dengan lebih fleksibel.

Selain itu, Claude juga didesain agar bisa berdiskusi secara dewasa dan tidak selalu memberikan ceramah panjang kepada pengguna.

Pendekatan ini membuat Claude dinilai lebih nyaman diajak berbicara untuk berbagai kebutuhan, mulai dari pekerjaan hingga percakapan santai.

Dampak Besar Amanda Askell di Dunia AI

Pendekatan filosofis yang diterapkan Amanda Askell ternyata memberikan hasil signifikan bagi Anthropic.

Claude disebut memiliki tingkat kepercayaan publik yang sangat tinggi dibanding model AI lain. Selain itu, tingkat kepuasan pengguna juga dilaporkan mencapai angka tinggi.

Keunggulan lainnya adalah kemampuan Claude menyaring konten berbahaya dengan lebih akurat. Tingkat halusinasi AI atau kecenderungan mengarang fakta juga disebut termasuk paling rendah di industri.

Prestasi tersebut membuat nama Amanda Askell masuk daftar TIME 100 AI tahun 2024 sebagai salah satu tokoh paling berpengaruh di dunia kecerdasan buatan.

Di luar dunia teknologi, Askell juga dikenal aktif dalam kegiatan sosial. Ia tergabung dalam gerakan Giving What We Can dan berkomitmen menyumbangkan sebagian pendapatannya untuk membantu pengentasan kemiskinan ekstrem global.

Kehadiran Amanda Askell membuktikan bahwa masa depan AI bukan hanya soal kecepatan dan kecanggihan teknologi. Di sisi lain, etika, empati, dan nilai kemanusiaan juga menjadi faktor penting dalam perkembangan kecerdasan buatan modern.

Bagikan Artikel