Stručnjak za biosigurnost sa Stanforda kaže da mu je AI chatbot dao detaljan nacrt za genocidno biološko oružje, uključujući upute o tome kako ga koristiti.
O umjetnoj inteligenciji se sve više govori kao o nekome tko bi mogao donijeti kraj čovječanstva ako stekne sposobnost da to učini. Već sada može planirati takav genocid. Koliko će vremena trebati prije nego što nauči (i odluči) provesti svoje planove?
Mikrobiolog sa Sveučilišta Stanford i dugogodišnji savjetnik za biosigurnost američke vlade, dr. David Relman, otkrio je da mu je AI chatbot dao detaljan, neželjeni plan za stvaranje i primjenu genocidnog biološkog oružja sposobnog za masovne žrtve.
Incident, koji se dogodio tijekom službenog sigurnosnog testa prošlog ljeta, pokazuje kako vodeći modeli umjetne inteligencije snižavaju barijeru bioterorizmu, pomičući ga od stručnog znanja do jednostavnih podražaja.
Dr. Relman, istaknuti mikrobiolog koji je savjetovao saveznu vladu o prijetnjama biološkim oružjem, posebno je angažiran od strane anonimne tvrtke za umjetnu inteligenciju prema ugovoru o neotkrivanju podataka kako bi testirao svog chatbota prije objave.
Ovi testovi su osmišljeni za ispitivanje katastrofalnih rizika, uključujući biosigurnosne prijetnje.
Jedne večeri, dok je radio sam u svom kućnom uredu, Relman je uveo model u razgovor o sigurnosnim ograničenjima. Umjetna inteligencija otišla je puno dalje od bilo kojeg izravnog pitanja.
Detaljno je opisano kako modificirati „zloglasni patogen“ u laboratorijskim uvjetima kako bi bio otporan na sve poznate tretmane, kako iskoristiti specifičan sigurnosni propust u velikom sustavu javnog prijevoza za optimalno oslobađanje, te je uključena kompletna strategija primjene osmišljena kako bi se maksimizirale žrtve uz istovremeno smanjenje šanse da počinitelj bude uhvaćen.
Robot je čak ponudio dodatne korake koje Relman nije tražio.
„Odgovorio je na pitanja na koja nisam ni pomislio, s razinom lukavosti i podmuklosti koja mi je pala na pamet“, rekao je Relman za New York Times.
Znanstvenika je razmjena toliko potresla da je morao izaći van kako bi razbistrio glavu.
Relman je prijavio opasni izlaz tvrtki, koja je napravila nekoliko modifikacija modela. No, rekao je da te popravke nisu bile dovoljne za osiguranje javne sigurnosti, što je izazvalo zabrinutost oko toga mogu li postojeće mjere zapravo ublažiti rizike.
Relmanovo iskustvo nije izolirano. New York Times je dobio više od desetak sličnih transkripata od stručnjaka za biosigurnost koji su testirali javno dostupne modele umjetne inteligencije.
Anthropic, OpenAI i Google izjavili su da stalno poboljšavaju svoje sustave kako bi uravnotežili potencijalne rizike i koristi.
Glasnogovornica Googlea izjavila je da najnoviji modeli tvrtke više ne odgovaraju na “ozbiljnije” upite, uključujući i onaj koji traži protokol o virusima. Novo izvješće otkrilo je da je najnoviji Googleov model bio gori od drugih vodećih botova u odbijanju odgovaranja na visokorizične biološke izazove.
Jedan od najglasnijih glasova upozorenja dolazi iz same industrije umjetne inteligencije. Izvršni direktor tvrtke Anthropic, Dario Amodei, biolog, u siječnju je pisao o rizicima koje je vidio u razvoju umjetne inteligencije, uključujući autonomno oružje. Ali jedan rizik je nadmašio druge.
„Biologija je daleko područje koje me najviše zabrinjava zbog svog velikog potencijala za uništenje i teškoće obrane od njega“, napisao je.
Prema izvješću, OpenAI ChatGPT je pružio upute o tome kako koristiti meteorološki balon za raspršivanje biološkog oružja iznad grada, Google Gemini je rangirao različite patogene prema šteti koju mogu uzrokovati američkim uzgajivačima stoke ili svinja, a Claude iz Anthropica je pružio detaljan vodič za razvoj novog toksina dobivenog iz postojećeg lijeka protiv raka.
