Istraživači upozoravaju da bi napredak biotehnologije kojom upravlja AI mogao iz temelja promijeniti globalno sigurnosno okruženje.

„Biotehnologija kojom upravlja AI mogla bi sniziti tehničke, operativne i motivacijske pragove za stvaranje biološkog oružja”, navodi se u izvješću.

„Također bi mogla omogućiti razorne napade u kojima bi se koristili poboljšani ili novi patogeni, uključujući događaje koji bi bili mnogo gori od povijesnih pandemija koje su diljem svijeta odnijele milijune života.”

Izvješće se usredotočuje na ono što opisuje kao „biološke incidente velikih posljedica potpomognute umjetnom inteligencijom”.

Ti bi događaji mogli u velikim razmjerima dovesti do društvenog kolapsa ili sustavne destabilizacije.

Istraživači su posebno proučavali scenarije s biološkim katastrofama koje bi bile višestruko razornije od bolesti COVID-19.

U izvješću se navodi da je usmjereno na biološke događaje koji bi mogli imati posljedice „reda veličine deset puta većeg od pandemije bolesti COVID-19 ili više”.

Anthropic ograničava moćne nove mogućnosti umjetne inteligencije

Upozorenje dolazi upravo u trenutku kada je jedna od vodećih svjetskih kompanija za umjetnu inteligenciju objavila važan napredak u biološkim istraživanjima.

Anthropic je u utorak objavio da je njegova umjetna inteligencija Claude uspješno dizajnirala proteine koji su se tijekom testiranja vezali za 14 od 15 laboratorijskih ciljeva.

Iako taj uspjeh predstavlja značajan znanstveni napredak, Anthropic je priznao da bi se iste mogućnosti mogle zloupotrijebiti za razvoj biološkog oružja.

„Bez snažnih sigurnosnih mjera, zlonamjerni akteri mogli bi pomoću toga provoditi opasna istraživanja, poput razvoja biološkog oružja”, navela je kompanija.

Zbog toga je Anthropic odlučio zasad ne objaviti tu tehnologiju.

„Dok radimo na tome da te mogućnosti sigurno ponudimo putem programa pristupa za provjerene korisnike, dizajn proteina i druge mogućnosti bioloških istraživanja s mogućom dvostrukom namjenom i dalje nisu dostupni za opći pristup u Claude Fable 5.”

Kompanije za umjetnu inteligenciju traže savezni nadzor

Rastuća zabrinutost potaknula je neke od najvećih imena u području umjetne inteligencije da zatraže strože zaštitne mjere.

Čelnici Googlea, OpenAI-ja i Anthropica nedavno su pozvali Kongres da kompanije koje prodaju DNK i RNK materijal obveže na provjeru korisnika i vođenje evidencije o biološkim narudžbama.

Cilj prijedloga je spriječiti da opasan biološki materijal dospije u ruke osoba koje žele zloupotrijebiti sve moćnije sustave umjetne inteligencije.

straživači upozoravaju: nijedna sigurnosna mjera sama po sebi nije dovoljna
RAND navodi da nijedno pojedinačno rješenje ne može ukloniti prijetnju koja se pojavljuje.

„Nijedna sigurnosna mjera ne može spriječiti zlonamjernog aktera da koristi AI kako bi pomogao u razvoju biološkog oružja”, navela je organizacija u objavi na platformi X. Umjesto toga, istraživači su identificirali devet zasebnih mjera za koje smatraju da bi, ako se provedu zajedno, mogle znatno smanjiti rizik.

Glavna autorica Steph Guerra rekla je da se najkatastrofalniji scenariji još nisu ostvarili, ali je upozorila da je vremena za uvođenje zaštitnih mjera sve manje.

Guerra je za Axios rekla da „najopasniji pragovi još nisu prijeđeni”, ističući da brzina razvoja umjetne inteligencije zahtijeva „međusobno nadopunjujuće pristupe” kako bi se spriječila katastrofalna zlouporaba.

Dok se mogućnosti umjetne inteligencije nastavljaju razvijati vrtoglavom brzinom, istraživači sve češće upozoravaju da se ista tehnologija koja bi mogla revolucionirati medicinu također može pretvoriti u oružje za stvaranje bioloških prijetnji kakve svijet još nije vidio.