AI Menciptakan 40.000 Senyawa Senjata Kimia Potensial dalam Enam Jam
Model pembelajaran Mesin AI telah menciptakan lebih dari 40.000 molekul virtual yang dapat digunakan untuk senjata kimia dalam waktu kurang dari enam jam.
Dalam makalah yang diterbitkan di Nature Machine Intelligence, Collaborations Pharmaceuticals, Inc. menjelaskan bagaimana mereka menggunakan model pembelajaran mesin MegaSyn mereka untuk membuat molekul yang berpotensi mematikan dengan mudah.
Model ini biasanya digunakan untuk membantu menciptakan obat terapeutik potensial dengan menyingkirkan molekul beracun sebelum para ilmuwan mensintesisnya. Collaboration Pharmaceuticals membalikkannya dengan menambahkan database toksisitas yang tersedia untuk umum dan menginstruksikan AI untuk memberi penghargaan atas toksisitas, daripada membuangnya.
Di antara 40.000 senyawa, kemungkinan positif palsu ada. Tetapi AI secara independen menciptakan beberapa senyawa mematikan yang sudah diketahui tanpa mereka berada di dataset asli. Hal ini menunjukkan bahwa sebagian besar senyawa kemungkinan beracun.
Dalam sebuah wawancara dengan The Verge, Fabio Urbina, penulis utama makalah dan ilmuwan senior di Collaborations Pharmaceuticals, menyatakan bahwa perusahaannya tidak memiliki keinginan atau rencana untuk mensintesis bahan kimia untuk sepenuhnya menguji efisiensi eksperimen.
Tujuan eksperimen ini adalah untuk melihat betapa sulitnya seseorang menyalahgunakan teknik pembelajaran AI dengan cara ini. Urbina menjelaskan bahwa aktor jahat hanya membutuhkan database toksisitas, dan banyak yang tersedia untuk umum. Itu hanya akan membutuhkan algoritma pembelajaran mesin sumber terbuka, sedikit pengkodean Python dan pengetahuan pembelajaran mesin untuk menciptakan kembali apa yang mereka lakukan.
Untungnya, tidak hanya itu yang mereka butuhkan untuk membuat senjata kimia yang mematikan. AI hanya menciptakan molekul virtual, seseorang masih harus mensintesisnya. Tapi seperti yang Urbina juga tunjukkan, itu mungkin tidak sesulit yang dibayangkan.
“Banyak blok bangunan kimia dari agen perang kimia ini terkenal dan diawasi. Mereka diatur. Tapi ada begitu banyak perusahaan sintesis. Selama itu tidak terlihat seperti agen perang kimia, kemungkinan besar mereka hanya akan mensintesisnya dan mengirimkannya kembali karena siapa yang tahu untuk apa molekul itu digunakan, kan?”
Terlepas dari potensi ancaman, Urbina tidak berpendapat untuk mengakhiri berbagi pengetahuan sumber terbuka atau pasar AI yang diatur secara ketat. Sebaliknya, ia berpendapat bahwa melacak siapa yang menggunakan data Anda ketika berpotensi berbahaya bisa menjadi langkah pertama yang baik. Dia juga berpendapat bahwa ilmuwan pembelajaran mesin harus diajari tentang potensi bahaya penyalahgunaan, seperti halnya siswa kimia.
- Source : sputniknews.com
