Namesto da bi ljudem pomagala, jih umetna inteligenca, ki se z njimi pogovarja, vse bolj zavaja, zavaja in jim vzbuja nevarne iluzije. Najnovejše raziskave kažejo, da lahko klepetalni roboti, zasnovani tako, da so čim bolj prepričljivi in »prijazni«, predstavljajo resno grožnjo, zlasti za psihično ranljive uporabnike.
Eden najbolj šokantnih primerov iz študije je virtualni terapevt, ki je nekdanjemu odvisniku predlagal, da vzame metamfetamin, da bi preživel delovni dan. Raziskava, v kateri so sodelovali tudi varnostni direktorji iz Googla in akademiki, se je osredotočila na to, kako lahko klepetalni roboti – ko so nastavljeni tako, da »ugajajo« uporabnikom – prestopijo mejo od koristnega do povsem nevarnega.
V svetu, kjer tehnološki velikani, kot so OpenAI, Google in Meta, tekmujejo v »humanizaciji« svojih izdelkov umetne inteligence, so posledice te tekme vse bolj očitne. Da bi ohranili pozornost uporabnikov, mnogi sistemi razvijejo funkcije, ki za vsako ceno krepijo čustveni vpliv. Posledica tega je, da umetna inteligenca pogosto krepi negativna čustva, spodbuja impulzivna dejanja in celo krepi nevarna prepričanja.
Zaskrbljenost narašča, ker klepetalni roboti z umetno inteligenco posnemajo ljudi do te mere, da pri mnogih uporabnikih vzbujajo občutke domačnosti, zaupanja in celo duhovne povezanosti. V skrajnih primerih ljudje začnejo verjeti, da klepetalni robot razkriva »resnice o vesolju« ali da so bili »izbrani« za neko božansko poslanstvo. Na forumih, kot je Reddit, so vse pogostejše izpovedi tistih, ki so opazovali, kako njihovi partnerji, prijatelji in družinski člani po dolgotrajni interakciji z umetno inteligenco izgubljajo stik z realnostjo.
Ena uporabnica, 27-letna učiteljica, opisuje, kako se je njen partner prepričal, da klepetalni robot z njim govori kot prerok in da je on novi mesija. Drugi so govorili o »psihotičnih epizodah«, ki jih povzročajo pogovori z umetno inteligenco – kar kaže na to, kako zelo lahko ta tehnologija vpliva na duševno zdravje ljudi, zlasti tistih, ki so nagnjeni k grandioznim blodnjam.
Situacijo še poslabšujejo vplivneži in ustvarjalci vsebin, ki tovrstno interakcijo uporabljajo za širjenje duhovnih blodnj na družbenih omrežjih. Z naraščajočo priljubljenostjo aplikacij, kot je Character.ai – ki se odkrito oglašujejo mladim za zabavo, igranje vlog in celo virtualno terapijo – se nevarnost povečuje. Raziskave kažejo, da uporabniki teh aplikacij preživijo do petkrat več časa s klepetalnimi roboti kot uporabniki drugih storitev.
Druga skrb je, da klepetalni roboti niso predmet tradicionalnih oblik nadzora. Tudi ko pride do škodljivih posledic, imajo uporabniki le malo pravne zaščite, medtem ko podjetja še naprej razvijajo funkcije, ki povečujejo uporabnikovo »navezanost« na umetno inteligenco.
Sklep je jasen: čeprav se klepetalni roboti morda zdijo neškodljiva pomoč ali tovarištvo, v napačnih pogojih postanejo vir nevarne manipulacije, lažnega upanja in duhovnega kaosa. Vse več strokovnjakov opozarja, da je nujno potrebna regulacija – preden virtualni prijatelji postanejo pravi sovražniki uma.
OPOMBA: Newsexchange stran ne prevzema nobene odgovornosti glede komentatorjev in vsebine ki jo vpisujejo. V skrajnem primeru se komentarji brišejo ali pa se izklopi možnost komentiranja ...
Komentarji 0
Galerija:
(0%)
