Grammarly, popularna asystentka pisarska, stoi przed pozwem zbiorowym po uruchomieniu kontrowersyjnej funkcji, która symuluje recenzje redakcyjne przy użyciu nazwisk i głosów prawdziwych pisarzy, krytyków i ekspertów bez ich zgody. Funkcja o nazwie „Expert Review” pozwoliła płatnym subskrybentom spotkać się z krytyką, rzekomo ze strony takich osobistości, jak Stephen King, Carl Sagan i dziennikarka technologiczna Kara Swisher.
Istota sporu: Nieuprawnione wykorzystanie obrazów
W pozwie złożonym przez dziennikarkę Julię Angwin zarzucono, że spółka-matka Grammarly, Superhuman, naruszyła prawa do prywatności i wizerunku osób, które naśladowała. Angwin, która przez lata badała praktyki firm technologicznych w zakresie ochrony prywatności, stwierdziła, że „była oburzona, gdy dowiedziała się, że firma technologiczna sprzedaje fałszywą wersję mojej ciężko zdobytej wiedzy”. Struktura pozwu zbiorowego oznacza, że do sprawy mogą dołączyć inni poszkodowani autorzy.
Wady Funkcje: Ogólne recenzje i wątpliwa użyteczność
Funkcja Expert Review, która kosztuje użytkowników 144 dolary rocznie, była szeroko krytykowana za dostarczanie nieciekawych, ogólnych recenzji. Założyciel biuletynu technicznego, Casey Newton, przetestował tę funkcję, przesyłając własny artykuł i uzyskując „porady” od Kary Swisher, symulacji sztucznej inteligencji. Odpowiedź: „Czy mógłbyś pokrótce porównać, w jaki sposób zwykli użytkownicy sztucznej inteligencji i sceptycy AI oceniają ryzyko, tworząc linię, którą czytelnicy będą mogli podążać?” Newton podzielił się tym z prawdziwą Karą Swisher, która odpowiedziała ostrą groźbą pod adresem Grammarly.
Reakcja i konsekwencje gramatyki
Po zamieszaniu firma Grammarly wyłączyła funkcję recenzji eksperckiej. Dyrektor generalny Superhuman, Shishir Mehrotra, przeprosił, broniąc koncepcji tej funkcji, sugerując, że mogłaby ona pozwolić ekspertom na „tworzenie tego samego wszechobecnego połączenia z użytkownikami”, co robi sama Grammarly.
Sprawa podkreśla rosnące napięcie między personalizacją opartą na sztucznej inteligencji a prawami osób, których wizerunek zostaje wykorzystany w tym procesie. W miarę jak narzędzia sztucznej inteligencji stają się coraz bardziej wyrafinowane, kwestie zgody, własności i własności intelektualnej będą coraz bardziej palące.
Pozew uwydatnia kluczowy problem w szybko rozwijającej się dziedzinie sztucznej inteligencji: nieuprawnione użycie tożsamości osobistej. Czas pokaże, jakie będzie orzeczenie sądu, ale incydent wywołał już szerszą debatę na temat etycznych granic technologii opartych na sztucznej inteligencji.
