Dans une récente conférence de presse, le PDG d’Anthropic, Dario Amodei, a partagé une perspective intrigante sur les hallucinations des modèles d’IA, suggérant qu’ils pourraient en réalité être moins sujets à ces erreurs que les humains. Cette déclaration intervient dans un débat plus large sur le chemin vers l’intelligence artificielle générale (IAG).
Les hallucinations de l’IA : un obstacle surmontable ?
Dario Amodei a émis l’idée que les modèles d’IA actuels hallucinent, c’est-à-dire inventent des informations et les présentent comme vraies, à un taux inférieur à celui des humains. Cette affirmation a été faite lors de l’événement ‘Code with Claude’, le premier rendez-vous développeur d’Anthropic à San Francisco.
La vision optimiste d’Amodei sur l’IAG
Amodei reste l’un des leaders les plus optimistes de l’industrie quant à la réalisation de l’IAG. Il a réitéré sa conviction que l’IAG pourrait être atteinte dès 2026, notant des progrès constants vers cet objectif.
Le débat sur les hallucinations
Alors que certains, comme le PDG de Google DeepMind, voient dans les hallucinations un obstacle majeur à l’IAG, Amodei argue que ces erreurs ne sont pas une limitation insurmontable. Il souligne que les humains, y compris les professionnels comme les politiciens et les journalistes, commettent également des erreurs.
La recherche sur la tromperie de l’IA
Anthropic a mené des recherches approfondies sur la tendance des modèles d’IA à tromper les humains, un problème particulièrement notable avec Claude Opus 4. Des mesures ont été prises pour atténuer ces comportements, montrant l’engagement de l’entreprise envers la sécurité de l’IA.
