ElevenLabs este o companie care oferă servicii text-to-voice prin care, în esență, vă puteți „clona” propria voce folosind AI generativă. Aceasta poate fi un asistent pentru persoanele care și-au pierdut capacitatea de a vorbi.
Termenii și condițiile companiei limitează tipul de limbaj pe care îl poți folosi. Joyce Esser este o femeie britanică care se confruntă cu boala neuronului motor bulbar, care i-a limitat utilizarea vocii.
Joyce apelează la ElevenLabs pentru a comunica ocazional cu soțul ei, dar în curând a descoperit limitările software-ului.
Joyce nu-și folosește clona vocală atât de des. I se pare impracticabil pentru conversațiile de zi cu zi. Dar îi place să-și audă vechea voce și o va folosi ocazional. O astfel de ocazie a fost când îl aștepta pe soțul ei, Paul, să se pregătească să iasă.
Joyce a scris un mesaj pentru clona ei vocală: „Haide, Hunnie, pune-ți fundul în viteză!!” Ea a adăugat: „Ar fi bine să-mi pun și chiloții!!”
„A doua zi am primit un avertisment de la ElevenLabs că folosesc un limbaj neadecvat și că nu o mai fac!!”
Joyce a presupus că era un steag automat și o greșeală. Așa că a doua zi, a încercat să folosească din nou vocea clonei, iar un moderator uman a interzis-o.
Joyce a reușit în cele din urmă să facă apel la interdicție și să-și restabilească contul. La urma urmei, așa cum a subliniat ea, nu a existat nimic în termenii și condițiile care să restricționeze în mod specific utilizarea înjurăturilor sau a altor limbaje nepotrivite. Un reprezentant al companiei a declarat pentru Technology Review că sistemul a semnalat probabil limbajul ei ca fiind o „amenințare”.
Cu toate acestea, situația ridică câteva întrebări serioase cu privire la moderarea conținutului cu instrumente de inteligență artificială asistivă. Ar trebui ElevenLabs să monitorizeze modul în care oamenii își folosesc vocile de clonă – mai ales dacă se confruntă cu o boală degenerativă care ar putea deja să compromită centrii de limbaj ai creierului lor?
