Amanda Askell, Lulusan Filsafat Hingga Pusat Pembuatan AI

Jakarta –

Kecerdasan buatan (Al) sering kali Dikatakan hanya sebagai dunia para pengembang yang bergelut Bersama baris kode. Akan Tetapi, hal ini tidak berlaku Untuk Amanda Askell, seorang filsuf sekaligus peneliti Al yang membuktikan pemikiran kritis Memiliki peran vital Untuk Pembuatan Keahlian masa Di.

Askell Di ini terlibat Untuk Skuat Anthropic, perusahaan pengembang chatbot dan asisten AI Claude. Timnya Berorientasi melatih model AI agar lebih jujur dan Memiliki karakter yang baik Di dihadapkan Ke pertanyaan sulit dan sensitif Untuk User yang beragam. Ia dan Skuat juga Menyusun Metode agar pelatihan ini bisa diterapkan Ke model-model Lanjutnya yang lebih canggih.

Untuk Filsafat Hingga AI

Dikutip Untuk situs pribadi dan laman LinkedInnya, Askell semula menekuni Langkah sarjana bidang Karya Seni rupa dan filsafat Hingga Duncan of Jordanstone College of Art & Design, University of Dundee Ke 2005-2009. Ia Lalu mengenyam studi pasjasarjana bidang filsafat dan meraih gelar BPhil in philosophy Untuk University of Oxford Ke 2011.

Askell Lalu melanjutkan studi Hingga jenjang doktoral Hingga New York University (NYU) Ke 2011-2018. Tesisnya Berorientasi Ke etika tak terhingga (infinite ethics).

Karya filsafat Askell kebanyakan Berorientasi Ke topik etika, teori pengambilan keputusan, dan epistemologi formal. Pembelajaran dan karyanya menjadi fondasi Askell kelak Untuk membentuk perilaku sistem kecerdasan buatan.

Kiprah Hingga OpenAl hingga Claude

Berbekal ketertarikannya Ke persimpangan Antara filsafat dan Keahlian, Amanda memulai perjalanan profesionalnya Hingga garda Di Pembuatan kecerdasan buatan. Sebelumnya bergabung Bersama Anthropic, ia tercatat pernah menjadi peneliti Hingga OpenAl, lembaga Kajian Al pengembang ChatGPT, Ke periode 2018 hingga 2021.

Di masa kerjanya Hingga sana, Amanda terlibat Untuk Pembuatan berbagai proyek Keahlian, termasuk proyek ChatGPT. la memfokuskan studinya Ke Permasalahan Perlindungan Al (Al safety) dan penyelarasan (alignment), sebuah bidang krusial yang memastikan sistem Al yang canggih tetap berperilaku selaras Bersama nilai-nilai kemanusiaan.

Salah satu studi Askell dan rekan-rekan, yang dipublikasi Bersama judul “A general language assistant as a laboratory for alignment” (2021), mengeksplorasi Metode-Metode dasar Sebagai Menyusun asisten AI berbasis teks yang selaras Bersama nilai-nilai manusia. Untuk Situasi Ini, mereka mencari tahu bagaimana asisten AI dapat bermanfaat, berkarakter jujur, dan tidak berbahaya.

Adapun Ke Eksperimen Untuk artikel ilmiah “Red teaming language models to reduce harms: Methods, scaling behaviors, and lessons learned” (2022), ia dan Skuat peneliti mencoba simulasi Ke model bahasa besar Sebagai menemukan, mengukur, dan Memangkas keluaran (output) yang Berpeluang membahayakan, mulai Untuk bahasa yang menyinggung sampai bermuatan Kekejaman.

Hingga Anthropic, Askell Hingga antaranya menjadi penulis utama dan menulis sebagian besar teks dokumen Konstitusi Claude. Dokumen ini berisi deskripsi rinci tentang nilai-nilai dan perilaku Claude yang diharapkan Anthropic, seperti aman, beretika, sesuai Bersama pedoman, dan benar-benar bermanfaat.

Sifat aman Untuk Situasi Ini yaitu tidak merusak mekanisme manusia yang tepat Sebagai mengawasi AI Di fase Pembuatan Claude. Ke Di Yang Sama, sifat beretika yakni AI Claude dapat jujur, bertindak sesuai Bersama nilai-nilai yang baik, dan menghindari tindakan yang tidak pantas, berbahaya, atau merugikan.

Isi Konstitusi Claude digunakan langsung Untuk membentuk perilaku Claude. Panduan dan pelatihan Anthropic lainnya juga dirancang agar konsisten Bersama isi pedoman ini.

Berkat dedikasi dan kontribusinya, Askell Merasakan pengakuan luas Untuk komunitas Keahlian dunia. Salah satunya yakni Bersama masuk daftar TIME100 Al Ke tahun 2024, sebuah daftar bergengsi yang menyoroti figur-figur paling berpengaruh Untuk menentukan masa Di kecerdasan buatan.

Kerja Askell mencerminkan pergeseran besar Untuk industri Keahlian, Bersama perusahaan kini mendukung fakta bahwa membangun sistem Al yang mumpuni tidak hanya membutuhkan keahlian teknis. Diperlukan pula pemikiran mendalam mengenai etika dan nilai-nilai kemanusiaan agar Keahlian yang dihasilkan tetap aman dan bermanfaat Untuk User luas.

(crt/twu)