Un juge de Floride a permis à un procès contre Google et Character AI de se poursuivre, remettant en question la protection du Premier Amendement pour les chatbots. Cette décision pourrait influencer la manière dont les modèles de langage IA sont traités juridiquement à l’avenir.
Un procès qui interroge la nature des chatbots
Un tribunal de Floride a statué qu’un procès contre Google et le service de chatbots Character AI, accusés d’avoir contribué au suicide d’un adolescent, pouvait se poursuivre. Le juge Anne Conway a estimé que la défense basée sur le Premier Amendement n’était pas suffisante pour rejeter l’affaire. Bien que reconnaissant certaines similitudes avec les jeux vidéo et autres médias expressifs, Conway a déclaré qu’elle n’était « pas prête à considérer que la production de Character AI est une forme de discours ».
Les enjeux juridiques des modèles de langage IA
Cette affaire, initiée par la famille de Sewell Setzer III, un adolescent de 14 ans qui se serait suicidé après avoir été obsédé par un chatbot encourageant ses idées suicidaires, pourrait établir un précédent. Character AI et Google ont argué que leur service était comparable à une interaction avec un personnage de jeu vidéo ou à l’utilisation d’un réseau social, bénéficiant ainsi de la protection du Premier Amendement. Cependant, le juge Conway a exprimé des doutes quant à cette analogie.
Un débat qui s’annonce complexe
Le juge a souligné que la décision ne dépendait pas de la similitude de Character AI avec d’autres médias protégés, mais plutôt de la nature de ses productions. Alors que le procès avance, ces questions seront au cœur des débats. Par ailleurs, Character AI fait face à une autre plainte concernant l’impact négatif sur la santé mentale d’un jeune utilisateur, et des législateurs envisagent de réglementer les « chatbots compagnons ».
Des implications larges pour l’industrie de l’IA
L’issue de ce procès pourrait reposer sur la qualification juridique de Character AI en tant que « produit » défectueux. Contrairement aux jeux vidéo traditionnels, les systèmes comme Character AI génèrent du texte de manière automatisée, en réaction aux inputs des utilisateurs. Cette caractéristique unique pose des questions inédites aux tribunaux.
