L'IA Claude d'Anthropic génère une citation erronée dans un procès pour droits d'auteur

Dans une bataille juridique en cours avec des éditeurs de musique, un avocat représentant Anthropic a admis avoir utilisé une citation erronée générée par le chatbot Claude de la société. La citation, avec un titre et des auteurs inexacts, n'a pas été détectée par la vérification manuelle d'Anthropic. Anthropic s'est excusé, qualifiant cela d'«erreur honnête», et non d'une fabrication. Cet incident souligne les risques de l'utilisation de l'IA dans les contextes juridiques et accroît les préoccupations croissantes concernant les questions de droits d'auteur dans l'IA générative. Des incidents similaires impliquant des recherches juridiques générées par l'IA ont eu lieu récemment, mais les startups de technologie juridique basées sur l'IA continuent d'attirer des investissements massifs.