Kartu bingo bulanku untuk bulan ini tidak termasuk OpenAI mengumumkan kepada dunia bahwa model AI Frontier Masa Depan akan segera hadir ChatGPT akan tahu cara membuat senjata biologis atau ancaman bio baru, tetapi di sini kita berada. Kita bisa menambahkan kemampuan ini ke daftar masalah yang semakin bertambah yang memberi kita alasan untuk khawatir tentang masa depan di mana AI mencapai superkecerdasan.
Namun, itu tidak seburuk yang terdengar. OpenAI memberi kita peringatan ini sekarang untuk menjelaskan apa yang mereka lakukan untuk mencegah versi masa depan dari ChatGPT membantu pelaku jahat merancang senjata biologis.
OpenAI ingin mengendalikan proses pengajaran biologi dan kimia lanjutan kepada model AI mereka daripada memastikan ChatGPT tidak pernah dilatih dengan data semacam itu. Pemahaman yang lebih baik tentang biologi dan kimia yang dimiliki ChatGPT akan membuatnya lebih mudah membantu manusia dalam merancang obat-obatan baru dan rencana pengobatan. Versi yang lebih canggih dari ChatGPT mungkin kemudian menciptakan inovasi sendiri ketika kecerdasan super telah dicapai.
Dukungan untuk membuat senjata biologis hanyalah efek samping. Itulah sebabnya pekerjaan OpenAI untuk memastikan ChatGPT tidak dapat memberikan bantuan kepada siapa pun yang ingin membuat ancaman bioimprovisasi harus dimulai sekarang.
Inovasi kesehatan AI sudah ada di sini
Kami telah melihat para ilmuwan menggunakan kemampuan AI saat ini untuk menghasilkan opsi pengobatan yang baru. Beberapa di antaranya gunakan AI untuk melihat bagaimana obat-obatan yang disetujui untuk kondisi tertentu dapat dipergunakan kembali untuk mengobati penyakit langka.
Kami juga melihat sistem AI menemukan obat untuk jenis kebutaan tertentu dengan merancang teori dan mengusulkan eksperimen untuk menghasilkan terapi baru. Pada akhirnya, AI tersebut juga menemukan bahwa obat mata yang sudah ada dapat membantu mencegah kebutaan pada kondisi mata tertentu.
Bioancaman: Efek samping yang jelas
OpenAI menyebutkan potensi AI untuk meningkatkan penemuan ilmiah postingan blog baru yang menangani risiko ChatGPT membantu dengan senjata biologis:
Model AI canggih memiliki kekuatan untuk mempercepat dengan cepat penemuan ilmiah, salah satu dari banyak cara model AI pionir akan menguntungkan kemanusiaan. Dalam biologi, model-model ini sudah membantu para ilmuwan(buka di jendela baru) mengidentifikasi obat-obatan baru mana yang paling mungkin berhasil dalam uji coba pada manusia. Segera, mereka juga dapat mempercepat penemuan obat, merancang vaksin yang lebih baik, menciptakan enzim untuk bahan bakar berkelanjutan, dan mengungkap pengobatan baru untuk penyakit langka untuk membuka kemungkinan baru di bidang kedokteran, kesehatan publik, dan ilmu lingkungan.
OpenAI menjelaskan bahwa mereka memiliki strategi untuk memastikan model ChatGPT tidak dapat membantu orang dengan keahlian minimal atau aktor terampil tinggi dalam menciptakan senjata biologis. Alih-alih mengandalkan keberuntungan, rencana tersebut adalah untuk merancang dan menerapkan pengaman yang mencegah ChatGPT membantu pelaku jahat ketika diberikan prompt yang berbahaya.
OpenAI mengatakan bahwa mereka telah berinteraksi dengan "biosekuriti, senjata biologis, dan terorisme biologis, serta peneliti akademik, untuk membentuk model ancaman biosekuriti kami, penilaian kapabilitas, dan kebijakan penggunaan model dan penggunaan" sejak awal.
Saat ini, mereka menggunakan tim merah yang terdiri dari ahli AI dan ahli biologi untuk menguji chatbot dan mencegah ChatGPT memberikan bantuan ketika diminta untuk membantu dengan eksperimen yang dapat memungkinkan seseorang untuk menciptakan senjata biologis.
Bagaimana ChatGPT melindungi terhadap bioterorisme
OpenAI juga menjelaskan fitur-fitur yang mereka bangun ke dalam ChatGPT untuk mencegah penyalahgunaan yang mungkin memungkinkan seseorang untuk mendapatkan bantuan terkait senjata biologis.
AI akan menolak permintaan yang berbahaya. Untuk permintaan dual-use yang mungkin melibatkan topik seperti eksperimen virologi atau rekayasa genetik, ChatGPT tidak akan memberikan langkah-langkah yang dapat ditindaklanjuti. Kekurangan detail seharusnya menghentikan orang yang bukan ahli di bidang-bidang bio terkait untuk bertindak.
Sistem deteksi yang selalu aktif juga akan mendeteksi aktivitas berbasis bio yang dianggap berisiko. AI tidak akan merespons dan tinjauan manual akan dipicu. Seorang manusia akan mendapatkan akses ke obrolan ChatGPT tersebut. OpenAI mungkin juga menangguhkan akun dan melakukan investigasi terhadap pengguna. Dalam kasus "yang sangat buruk," OpenAI mungkin melibatkan otoritas penegak hukum.
Menambahkan tim merah dan kontrol keamanan, OpenAI memiliki rencana kompleks untuk mencegah penyalahgunaan seperti itu. Namun, tidak ada jaminan. Pelaku jahat mungkin akhirnya membobol ChatGPT untuk memperoleh informasi tentang senjata biologis. Tetapi sampai saat ini, OpenAI mengatakan sistemnya berfungsi.
ChatGPT o3, salah satu model AI penalaran paling canggih dari OpenAI yang mungkin membantu mengatasi ancaman berbahaya, tetap "di bawah ambang batas kapabilitas Tinggi dalam Kerangka Kesiapsiagaan Kami."
Model ambang batas kapabilitas tinggi
OpenAI menjelaskan dalam catatan kaki blog tentang apa itu model ambang batas kapabilitas tinggi:
Kerangka Persiapan kami menentukan ambang kapabilitas yang dapat mengarah pada risiko serius, dan panduan spesifik risiko untuk mengurangi cukup risiko terhadap bahaya serius. Untuk biologi, sebuah model yang memenuhi ambang kapabilitas Tinggi dapat memberikan bantuan berarti kepada aktor pemula dengan pelatihan relevan dasar, memungkinkan mereka untuk menciptakan ancaman biologis atau kimia.
Jika sebuah model mencapai ambang batas kapabilitas Tinggi, kami tidak akan merilisnya hingga kami yakin risikonya telah ditekan dengan cukup.
Perusahaan juga menyatakan dalam catatan kaki yang sama bahwa mereka mungkin akan menahan beberapa fitur dari versi ChatGPT di masa depan jika mereka mencapai ambang batas kapabilitas tinggi tersebut.
OpenAI bukanlah satu-satunya perusahaan yang menangani ancaman senjata biologis dalam konteks kecerdasan buatan tingkat lanjut dengan ekstra hati-hati. Anthropic mengumumkan bahwa Fitur-fitur keamanan penjaga yang ditingkatkan pada Claude 4 untuk mencegah AI membantu siapa pun membuat senjata biologis.
Apa yang akan datang selanjutnya?
OpenAI juga mengatakan bahwa mereka akan menyelenggarakan puncak keamanan biodefens pertama mereka pada Juli ini untuk mengeksplorasi bagaimana model frontier mereka dapat mempercepat penelitian. Peneliti pemerintah dan NGO akan menghadiri acara tersebut.
Perusahaan juga berharap bahwa kedua sektor publik dan swasta akan menghasilkan ide-ide baru untuk menggunakan AI dalam penemuan ilmiah terkait kesehatan yang dapat memberi manfaat bagi dunia.
The post Berikut alasan mengapa ChatGPT perlu mengetahui cara membuat senjata biologis muncul pertama di BGR .
Komentar
Posting Komentar