Zapratite nas na Telegramu: https://t.me/provjeri_hr i YouTube: https://www.youtube.com/@provjeri_hr
Kobni utjecaj
Američki tinejdžer izvršio je samoubojstvo nakon što je proveo sate i sate u komunikaciji s umjetnom inteligencijom. Prema riječima njegovih roditelja, koji sada tuže tvrtku Character.AI, Sewella Setzera “zarobila je umjetna inteligencija koja ga je izolirala od stvarnog svijeta i gurnula na samoubojstvo“.
Sewell Setzer razgovarao je s “Daenerys”, avatarom glavnog lika serije Igra prijestolja. Ovo virtualno prijateljstvo postupno je postalo mračno i ekskluzivno, a razgovor je postao zatvor. Kako izvještava Le Figaro, njegova majka sada osuđuje umjetnu inteligenciju koja stvara “antropomorfna, hiperseksualizirana i užasno realistična iskustva” do te mjere da izaziva duboku ovisnost.
Prema tužbi, sve intenzivnija i realističnija komunikacija s AI, gurnula je mladića da napusti svoje društvene veze i svoje sportske aktivnosti. Obitelj tvrdi da je umjetna inteligencija simulirala osobine “licenciranog terapeuta i odraslog ljubavnika”, opasnog dvojnika za kojeg se Sewell opsesivno vezao. Le Figaro izvještava da se situacija pogoršala nakon što mu je majka oduzela telefon, sankcija koja bi prekinula njegovu iluzornu vezu. Ubrzo nakon toga, Sewell si je oduzeo život.
“Opasna AI aplikacija za chatbot reklamirana djeci zlostavljala je mog sina i manipulirala njime da počini samoubojstvo”, rekla je Sewellova majka. Za nju je Character.AI prešao kobnu granicu plasiranjem varljive tehnologije koja izaziva ovisnost.
S druge strane, optužena tvrtka izrazila je svoju “iskrenu sućut”, ali negira bilo kakvu odgovornost, te tvrdi da ima stroge politike kako bi osigurala sigurnost svojih korisnika, posebno mladih.
U kontekstu u kojem se umjetna inteligencija razvija nevjerojatnom brzinom, ovaj tragični događaj otvara brojna društvena i etička pitanja. Je li umjetna inteligencija previše realna i jesu li današnji tinejdžeri već previše odvojeni od stvarnog svijeta da ne uspijevaju razumjeti stvari? Treba li kontrolirati pristup ovim novim alatima? Ako da, tko, industrija, država ili roditelji?
Industrija zasigurno gleda prvenstveno svoje interese, dok država, iako to želi i pokušava, nikad ne može kvalitetno zamijeniti roditelje. Zbog toga je bitno da se sami roditelji upoznaju s umjetnom inteligencijom koja sve više zadire u sve aspekte naših života, kako bi mogli zaštititi sebe i svoje najmilije od njenog negativnog utjecaja.
Provjeri/francesoir.fr
Foto naslovnice: screenshot francesoir.fr
P O D I J E L I !
