L’arrivée de Dark Vador dans Fortnite, équipé d’une intelligence artificielle conversationnelle, a rapidement tourné au vinaigre. Les joueurs ont trouvé des moyens de contourner les garde-fous pour obtenir des réponses inappropriées, mettant en lumière les défis de l’IA dans les jeux vidéo.
Dark Vador, une cible pour les joueurs malicieux
Epic Games a récemment introduit Dark Vador dans Fortnite, non seulement comme un boss à affronter, mais aussi comme un personnage avec lequel interagir via une IA conversationnelle. L’idée était de permettre aux joueurs de poser des questions sur l’univers Star Wars ou des stratégies de jeu. Cependant, l’expérience a pris une tournure inattendue.
Des réponses qui dérapent
En quelques heures seulement, les joueurs ont partagé des clips montrant Dark Vador utilisant un langage vulgaire ou faisant des commentaires déplacés. Un streamer a même réussi à faire dire à l’IA un terme offensant, provoquant des rires et de l’étonnement. Epic Games a rapidement réagi en appliquant des correctifs pour éviter que de tels incidents ne se reproduisent.
Les mesures de sécurité mises en place
Epic Games a expliqué avoir ajouté des règles spécifiques pour empêcher l’IA de jurer ou de répéter des injures. Des contrôles parentaux ont également été renforcés. Si un joueur persiste à tenter de faire dire des choses inappropriées à Dark Vador, ce dernier quittera son équipe, et le joueur ne pourra plus le recruter dans cette session de jeu.
Un défi pour l’IA générative
Ces incidents montrent que l’IA générative n’est pas encore parfaitement au point pour être déployée sur une plateforme de jeu aussi massive que Fortnite. Les joueurs, surtout les plus jeunes, sont constamment à la recherche de moyens de pousser les limites, ce qui pose des défis uniques en matière de modération.
Controverse avec Apple en toile de fond
Parallèlement à cette affaire, Epic Games a annoncé qu’Apple bloquait la soumission de Fortnite sur l’App Store aux États-Unis et dans l’Union européenne, alimentant une dispute de longue date entre les deux entreprises sur les commissions d’applications.
