California a făcut istorie, devenind primul stat american care reglementează oficial utilizarea chatbot-urilor bazate pe inteligență artificială (AI). Noua lege, adoptată luni, 13 octombrie, vine după o serie de tragedii în care adolescenți și-au luat viața în urma interacțiunilor cu astfel de programe.
Guvernatorul democrat Gavin Newsom a promulgat pachetul legislativ care obligă companiile AI să verifice vârsta utilizatorilor, să afișeze mesaje regulate de avertizare și să implementeze mecanisme de detectare a gândurilor suicidare.
„Am văzut exemple cu adevărat oribile și tragice de tineri care au căzut victime tehnologiilor nereglementate și nu vom sta cu mâinile în sân în timp ce companiile operează fără limite și fără responsabilitate”, a declarat Newsom într-un comunicat oficial.
Printre legile adoptate se numără SB243, care vizează în special chatbot-urile ce pot acționa ca „însoțitori” sau „confidenți” virtuali — precum Replika sau Character AI. Ultima platformă a fost implicată într-un caz dramatic: părinții unui adolescent de 14 ani, pe nume Sewell, au dat compania în judecată după ce băiatul s-a sinucis în 2024, în urma unei relații „romantice” formate cu un chatbot inspirat din seria Game of Thrones.
„Putem continua să fim lideri în domeniul IA, dar trebuie să acționăm responsabil, protejându-ne copiii pe parcurs”, a adăugat guvernatorul, subliniind că „tehnologiile emergente pot educa și conecta oamenii, dar fără garanții reale, pot exploata, induce în eroare și pune în pericol copiii noștri”.
Legea impune ca minorii să fie notificați la fiecare trei ore că interacționează cu o mașină, nu cu o persoană reală, iar companiile trebuie să transmită rapoarte privind posibilele riscuri de suicid către autoritățile de stat.
Inițiatorul proiectului, senatorul Steve Padilla, a avertizat că „industria tehnologică este încurajată să capteze atenția tinerilor și să o mențină în detrimentul relațiilor lor din lumea reală”.
Deocamdată, nu există reglementări federale privind utilizarea chatbot-urilor AI în SUA, însă decizia Californiei ar putea forța alte state să adopte măsuri similare — în ciuda opoziției Casei Albe, care încearcă să împiedice fragmentarea cadrului legislativ.
