OpenAI a retardé le lancement de son très attendu « mode adulte » pour ChatGPT, dont la sortie était initialement prévue au premier trimestre 2024. La société déclare désormais qu’elle donnera la priorité à d’autres améliorations, notamment l’amélioration de la personnalité et une personnalisation accrue, par rapport à la fonctionnalité de contenu explicite.
Pourquoi le retard est important
Ce report met en évidence une tension croissante entre le développement de l’IA, la demande des utilisateurs et les considérations éthiques. Alors que l’IA générative est déjà utilisée pour les interactions NSFW, OpenAI semble recalibrer son approche. Ce changement suggère que l’entreprise pèse les risques liés au contenu pour adultes non réglementé par rapport à sa stratégie plus large.
Le business de l’IA et de l’érotisme
Le marché du divertissement pour adultes représente un potentiel de revenus important pour les entreprises d’IA. Cependant, l’intégration de l’intelligence artificielle dans la sexualité humaine a suscité des débats éthiques, les experts mettant en garde contre une exploitation potentielle et des dommages psychologiques. L’hésitation d’OpenAI pourrait refléter des inquiétudes concernant son image de marque ou sa responsabilité juridique.
Préoccupations internes et incidents antérieurs
Les rapports indiquent une dissidence interne au sein d’OpenAI concernant le lancement de contenu explicite. Un ancien employé allègue son licenciement après avoir exprimé ses inquiétudes concernant la santé mentale des utilisateurs et l’accès des mineurs. Grok AI d’Elon Musk a déjà été critiqué pour sa fonction controversée de « déshabillage numérique », soulignant encore davantage les risques.
Position d’OpenAI sur l’autonomie
Malgré le retard, OpenAI maintient son engagement à traiter les utilisateurs adultes comme tels, suggérant que la fonctionnalité n’est pas abandonnée mais simplement reportée. La société souligne ses efforts continus de vérification de l’âge pour restreindre l’accès aux contenus inappropriés. Cependant, ce retard suggère que les défis liés à la mise en œuvre d’un tel système sont plus importants que prévu initialement.
Divulgation
La société mère de Mashable, Ziff Davis, est actuellement impliquée dans une action en justice contre OpenAI pour violation du droit d’auteur, ce qui peut également influencer le contexte de ce reportage.
La décision d’OpenAI souligne l’interaction complexe entre le progrès technologique, les intérêts commerciaux et la responsabilité éthique dans le domaine en évolution rapide de l’intelligence artificielle. Ce retard suggère que l’entreprise agit avec prudence, en donnant la priorité à la sécurité des utilisateurs et à l’intégrité de la marque plutôt qu’aux bénéfices immédiats.
