Banyak perusahaan teknologi menggelontorkan dana besar untuk membangun kecerdasan buatan (AI) yang semakin pintar dan cepat. Namun, tidak banyak yang menaruh perhatian pada seperti apa sifat dan karakter AI ketika diajak berinteraksi oleh manusia.
Anthropic, startup pembuat chatbot Claude, mengambil pendekatan berbeda. Perusahaan ini tidak hanya berfokus pada kecanggihan perangkat keras, tetapi juga merekrut Amanda Askell, seorang filsuf asal Skotlandia, untuk membantu membentuk kepribadian dan kompas moral Claude.
Askell bukan sosok yang identik dengan profil insinyur Silicon Valley yang mengandalkan kemampuan pemrograman. Di Anthropic, ia mengemban tugas yang tidak lazim: menanamkan “jiwa”, karakter, serta pertimbangan etika ke dalam Claude. Melalui perannya, Claude diarahkan agar tidak sekadar menjadi mesin penjawab otomatis, melainkan entitas digital yang dinilai memiliki etika dan empati dalam merespons.
Amanda Askell tumbuh di Prestwick, Skotlandia, dan dibesarkan oleh ibunya yang bekerja sebagai guru. Ketertarikannya pada pertanyaan tentang eksistensi dan moralitas muncul sejak kecil, salah satunya dipicu kebiasaan membaca karya J.R.R. Tolkien dan C.S. Lewis.
Jalur akademiknya pun jauh dari dunia pemrograman. Ia mempelajari seni rupa dan filsafat secara bersamaan di University of Dundee, membagi waktu antara melukis dan mendalami pertanyaan-pertanyaan filosofis. Setelah itu, ia melanjutkan studi ke University of Oxford untuk meraih gelar BPhil, lalu menuntaskan pendidikan doktoralnya di New York University (NYU).
Di NYU, Askell menulis tesis tentang “etika tak terbatas” (infinite ethics), bidang yang membahas bagaimana moralitas bekerja ketika diterapkan pada populasi berskala tidak terhingga. Pengalaman menekuni filsafat moral serta kemampuannya menghadapi ambiguitas menjadi bekal ketika ia kemudian memasuki dunia AI.
Kariernya di industri AI dimulai pada 2020 saat bergabung dengan OpenAI sebagai ilmuwan riset yang berfokus pada keselamatan AI. Ia juga tercatat sebagai salah satu penulis pendamping dalam makalah penelitian GPT-3. Namun, menurut berbagai laporan, Askell memutuskan keluar dari OpenAI setelah menilai adanya perubahan arah yang membuatnya khawatir perusahaan mulai menggeser prioritasnya.
