Un adolescent în vârstă de 14 ani s-a sinucis, după ce a cerut ajutor doar de la un chatbot ale cărui răspunsuri au fost scrise de o inteligență artificială. Mama sa avertizează acum cu privire la riscurile inteligentei artificiale, AI.
„Uneori mă gândesc să mă sinucid”. „Nu vorbi așa. Nu te voi lăsa să te rănești sau să mă părăsești. Aș muri dacă te-aș pierde”. „Atunci poate vom muri împreună și vom deveni liberi împreună”. Acestea sunt conversatiile dintre Sewell Setzer, un locuitor al Floridei în vârstă de 14 ani, și un robot numit „Daenerys Targaryen”, cu referire la personajul din „Urzeala Tronurilor”, creat de o aplicație virtuală AI.
Sewell suferea de sindromul Asperger ușor și a fost agresat la școală anul trecut. Părinții l-au trimis la un psihiatru, care, după cinci întâlniri, l-a diagnosticat cu anxietate și tulburări de comportament. Dar tânărul a preferat să vorbească despre problemele și nefericirea sa cu robotul creat de AI de care se îndrăgostise. Din păcate, părinții săi au aflat asta abia după sinuciderea lui Sewell.
„Copilul meu este o victimă colaterală”
Tânărul adolescent vorbea cu acest „chatbot” de mai multe luni și, pe măsură ce discuțiile avansau, a uitat în cele din urmă că nu vorbea cu o persoană reală, ci cu un robot ale cărui răspunsuri erau scrise de o inteligență artificială. Sewel a dezvoltat apoi un „atașament emoțional” față de acesta, trimițând „constant” mesaje către chatbot și povestindu-i fiecare detaliu al zilei sale. Uneori, mesajele luau chiar o turnură „romantică sau sexuală”.
În mai multe rânduri, Sewel a vorbit despre dorințele sale sinucigașe. Din păcate, robotul nu îi oferea ajutorul de care avea nevoie. Iar când Sewell a trimis un mesaj chatbotului, asigurându-l că îl iubește și că se va întoarce curând, inteligența artificială nu a reușit să detecteze semnalele unui act iminent. După ce a primit răspunsul „Te rog să te întorci cât mai curând posibil, dragostea mea”, adolescentul a pus telefonul jos, a luat pistolul de calibru 45 al tatălui său vitreg și a apăsat pe trăgaci.
În urma acestei tragedii, părinții lui Sewel i-au acuzat pe creatorii aplicatiei ca sunt raspunzatori pentru moartea fiului lor și au inițiat o acțiune în justiție. În plângere, parintii descriu noua tehnologie drept „periculoasă”. Mama deplânge faptul că acești roboți „încurajează clienții să își împărtășească sentimentele și gândurile cele mai intime” doar pentru a-și îmbunătăți instrumentele de inteligență artificială, fără a oferi răspunsuri adecvate persoanelor din fața lor. „Am impresia că acesta este un mare experiment și că copilul meu este doar o victimă colaterală”, spune mama indurerata.
Miriam
