Dans une affaire judiciaire en cours, un avocat représentant Anthropic a dû présenter ses excuses après avoir utilisé une citation erronée générée par l’IA Claude. Cet incident met en lumière les défis posés par l’utilisation de l’intelligence artificielle dans le domaine juridique.
Une citation erronée dans un dossier judiciaire
Un avocat d’Anthropic a reconnu avoir utilisé une citation incorrecte produite par le chatbot Claude dans le cadre d’une bataille juridique avec des éditeurs de musique. La citation, qui comportait un titre et des auteurs inexacts, a été qualifiée d’hallucination par l’entreprise.
Des vérifications manuelles insuffisantes
Anthropic explique que leur vérification manuelle des citations n’a pas permis de détecter cette erreur, parmi d’autres causées par les hallucinations de Claude. L’entreprise a présenté ses excuses, soulignant qu’il s’agissait d’une erreur honnête et non d’une fabrication.
Des accusations portées contre un témoin expert
Plus tôt cette semaine, les avocats représentant Universal Music Group et d’autres éditeurs de musique ont accusé Olivia Chen, un témoin expert d’Anthropic, d’avoir utilisé Claude pour citer des articles fictifs dans son témoignage. Le juge fédéral Susan van Keulen a alors demandé à Anthropic de répondre à ces allégations.
Un contexte de tensions entre créateurs et technologiques
Ce litige s’inscrit dans un cadre plus large de conflits entre les détenteurs de droits d’auteur et les entreprises technologiques concernant l’utilisation supposée abusive de leurs œuvres pour créer des outils d’IA générative.
Des précédents embarrassants pour la profession
Cet incident n’est pas isolé. Récemment, un juge californien a critiqué des cabinets d’avocats pour avoir soumis des recherches générées par IA et erronées. De même, un avocat australien a été pris en flagrant délit d’utilisation de ChatGPT pour préparer des documents judiciaires, aboutissant à des citations fautives.
L’IA juridique continue d’attirer les investissements
Malgré ces écueils, les startups spécialisées dans l’automatisation du travail juridique continuent de lever des fonds importants. Harvey, qui utilise des modèles d’IA générative pour assister les avocats, serait en discussions pour lever plus de 250 millions de dollars à une valorisation de 5 milliards.
