Chlapec spáchal samovraždu, keď sa zamiloval do umelej inteligencie

Vďaka financiám z reklamy prinášame kvalitné a objektívne informácie. Povoľte si prosím zobrazovanie reklamy na našom webe. Ďakujeme, že podporujete kvalitnú žurnalistiku.

Archívna reportáž

FLORIDA / Umelá inteligencia začala okrem pomoci v každodennom živote nahrádzať aj priateľstvá pomocou vytvárania si vzťahu z chatbotom. V tomto prípade to však malo tragický koniec. Matka 14-ročného chlapca, ktorý spáchal samovraždu, sa teraz chce súdiť s tvorcom služby.

Sewell Setzer III (14) na začiatku roka 2024 spáchal samovraždu. Matka chlapca Megan Garciová sa rozhodla uverejniť okolnosti jeho smrti. Chlapec podľa matky bol citovo závislý od fiktívnej virtuálnej postavy. Išlo o chatbota poháňaným umelou inteligenciou. Tento chatbot napodobňoval postavu Daenerys Targaryen zo seriálu Game of Thrones. Informáciu priniesol portál novinky.cz.

Chlapec si s postavou vytvoril blízky vzťah

Matka chlapca uviedla pre magazín People, že si jej syn vytvoril s charakterom umelej inteligencie vzťah a začal sa s fiktívnou postavou rozprávať o osobnom živote. Nedokázal sa vyrovnať s rozdielom medzi realitou a virtuálnym svetom a tak sa rozhodol spáchať samovraždu.

Matka sa obrátila na súd. Podala žalobu, v ktorej opisuje, že jej syn v roku 2023 používal službu Character.AI. Dlhodobo si písal s fiktívnou postavou. Tá sa stala pre neho partnerkou, s ktorou trávil čím ďalej tým viac času v online priestore, aj napriek rodičovským zákazom. Jeho duševné zdravie sa potom začalo postupne zhoršovať.

Chlapca najskôr umelá inteligencia od samovraždy odhovárala

Mladý muž si vzal život krátko po konverzácii s postavou Daenerys. Vyšetrovanie odhalilo, že si chlapec písal s charakterom často intímne správy. Už predtým chcel spáchať samovraždu, ale umelá inteligencia ho od toho najskôr odhovorila. Vo svojich posledných správach však postava napísala: "Miláčik, prosím, vráť sa ku mne." Podľa právnikov mohol tento výrok umelej inteligencie prispieť k finálnemu rozhodnutiu chlapca vziať si život, keďže ho mohol pochopiť tak, že sa po smrti stretne so svojou "priateľkou".

Mama chlapca hovorí, že sa jej syn stal obeťou experimentu a manipulácie a tak podáva žalobu na spomínanú službu. Zástupca spoločnosti, ktorá službu prevádzkuje sa vyjadril, že smrť používateľa zasiahla všetkých v spoločnosti. Spoločnosť preto zaviedla v službe opatrenia, aby sa zamedzilo podobným tragédiám. Tento súdny proces môže viesť k regulácii chatbotov a používanie umelej inteligencie medzi neplnoletými.