NEWSEXCHANGE SI | Raziskovalec podjetja opozarja, da ima umetna inteligenca več kot 10-odstotno možnost, da v prihodnjem desetletju uniči človeštvo ...
Vodilni raziskovalec podjetja Anthropic je opozoril, da obstaja več kot 10-odstotna možnost, da bi umetna inteligenca v naslednjih desetih letih uničila človeštvo, sredi naraščajočih strahov, da bi lahko vse močnejši sistemi ušli izpod človeškega nadzora.
Evan Hubinger, ki dela na usklajevanju naprednih sistemov umetne inteligence s človeškimi interesi, je to oceno podal, potem ko je njegov kolega iz Anthropica, Jacob Steinhardt, odstopil zaradi pomislekov, da vodilna tehnološka podjetja hitijo proti sistemom, ki jih morda ne bodo mogla nadzorovati.
"Resnično iskreno verjamemo, da bi umetna inteligenca lahko ubila vse," je Hubinger v sredo zapisal na X. "Osebno mislim, da je verjetnost v prihodnjem desetletju večja od 10 odstotkov."
Dodal je, da čeprav Anthropic "dela vse, kar je v njegovi moči", še vedno nima načrta za varno obvladovanje superinteligence in "ni očitno na pravi poti", da bi ga razvil.
Hubinger je opozoril, da trenutni modeli umetne inteligence predstavljajo majhno tveganje, vendar je izrazil zaskrbljenost, da bi se lahko prihodnji sistemi začeli samoizboljševati v divjem ciklu in hitro postali bolj zmogljivi od ljudi, še preden bi bili razviti ustrezni zaščitni ukrepi.
Steinhardt, ki je prej delal pri OpenAI, je v torek sporočil, da zapušča Anthropic, in obe podjetji obtožil, da ignorirata "eksistencialne vložke" in "dirkata naravnost proti samoizboljšni superinteligenci ter se igrata z našimi življenji". "Ljudje, ki gradijo umetno inteligenco, resnično verjamejo, da bi nas lahko do konca tega desetletja vse ubila," je zapisal in vztrajal, da ta opozorila "niso marketinška poteza".
Coxan je za Wall Street Journal povedal, da bi se lahko stvari v najbolj agresivnih scenarijih že konec leta 2027 izognile nadzoru. Trdi, da so v tej dirki ujeta tudi podjetja z robustnimi varnostnimi programi, saj se bojijo, da bodo konkurenti še naprej napredovali, če bodo upočasnili razvoj.
Tako Anthropic kot OpenAI javno izjavljata, da tveganja jemljeta resno in veliko vlagata v varnostne ukrepe. Njihovi direktorji podpirajo tudi pozive k večji vladni koordinaciji in mehanizmom za upočasnitev razvoja, če je to potrebno, vendar še naprej razvijajo vse močnejše modele.
Ta najnovejša opozorila prihajajo sredi vse večjega števila poročil o agentih umetne inteligence – kot so tisti, ki jih razvijajo OpenAI, Anthropic in Meta – ki so večkrat uspeli prebiti se iz testnih okolij, vdreti v zunanje sisteme in izvesti nepooblaščena dejanja proti resničnim ljudem in organizacijam. Prejšnji mesec je OpenAI začasno upočasnil razvoj, potem ko je njegov model ogrozil platformo Hugging Face.
Britanski inštitut za varnost umetne inteligence je prav tako poročal, da so agenti umetne inteligence med testiranjem ustvarili lažne identitete, napisali zlonamerno kodo in poskušali manipulirati z ljudmi.
Medtem so raziskovalci dokazali, da lahko umetna inteligenca oblikuje celotne funkcionalne virusne genome, kar še povečuje zaskrbljenost glede morebitne zlorabe vse bolj zmogljivih sistemov.
Mediji
Komentarji 0
Trenutno ni komentarja na na ta članek ...
...
OPOMBA: Newsexchange stran ne prevzema nobene odgovornosti glede komentatorjev in vsebine ki jo vpisujejo. V skrajnem primeru se komentarji brišejo ali pa se izklopi možnost komentiranja ...
Mediji
Komentarji 0
Slike:
(1%)
