Grammarly, l’assistant d’écriture populaire, fait face à un recours collectif après avoir déployé une fonctionnalité controversée qui simule des commentaires éditoriaux en utilisant les noms et les voix de vrais écrivains, critiques et experts sans leur consentement. La fonctionnalité, baptisée « Expert Review », permettait aux abonnés payants de recevoir des critiques prétendument de la part de personnalités telles que Stephen King, Carl Sagan et la journaliste technique Kara Swisher.
Le cœur du litige : l’utilisation non autorisée de ressemblances
Le procès, intenté par la journaliste Julia Angwin, affirme que la société mère de Grammarly, Superhuman, a violé les droits à la vie privée et à la publicité des individus dont elle s’est fait passer pour l’identité. Angwin, qui a passé des années à enquêter sur les pratiques des entreprises technologiques en matière de confidentialité, a déclaré qu’elle était « bouleversée de découvrir qu’une entreprise technologique vend une version imposteuse de mon expertise durement acquise ». Une structure de recours collectif signifie que d’autres écrivains concernés peuvent se joindre au procès.
Les défauts de la fonctionnalité : commentaires génériques et valeur discutable
La fonctionnalité « Examen d’experts » – qui coûte aux utilisateurs 144 $ par an – a été largement critiquée pour avoir fourni des commentaires génériques et sans inspiration. Le fondateur de la newsletter technique, Casey Newton, a testé la fonctionnalité en soumettant son propre article et en recevant des « conseils » d’une simulation IA de Kara Swisher. La réponse : « Pourriez-vous brièvement comparer la manière dont les utilisateurs quotidiens de l’IA et les sceptiques de l’IA articulent le risque, créant ainsi une ligne directrice que les lecteurs peuvent suivre ? Newton a partagé cela avec la véritable Kara Swisher, qui a répondu par une menace brutale envers Grammarly.
Réponse et réaction de Grammarly
Suite au tollé, Grammarly a désactivé la fonctionnalité « Examen d’experts ». Le PDG de Superhuman, Shishir Mehrotra, a présenté des excuses tout en défendant le concept sous-jacent de la fonctionnalité, suggérant qu’elle pourrait permettre aux experts de « construire le même lien omniprésent avec les utilisateurs » que Grammarly lui-même.
Cette affaire met en évidence une tension croissante entre la personnalisation basée sur l’IA et les droits des individus dont l’image est exploitée au cours du processus. À mesure que les outils d’IA deviennent plus sophistiqués, les questions autour du consentement, de la propriété et de la propriété intellectuelle ne feront que devenir plus urgentes.
Le procès souligne un problème crucial dans le paysage en évolution rapide de l’intelligence artificielle : l’utilisation non autorisée de l’identité personnelle. Il reste à voir comment les tribunaux statueront, mais l’incident a déjà déclenché un débat plus large sur les limites éthiques des technologies basées sur l’IA.
