Character.AI, pionnier dans les interactions avec des personnages générés par IA, dévoile AvatarFX, son nouveau modèle de génération vidéo. Cette innovation promet d’animer les chatbots avec un réalisme sans précédent, tout en soulevant des questions cruciales sur son utilisation responsable.
Une avancée majeure dans l’animation IA
Character.AI a annoncé le lancement d’AvatarFX, un modèle de génération vidéo en bêta fermée. Ce dernier permet d’animer les personnages de la plateforme dans divers styles et voix, allant du réalisme humain aux dessins animés en 2D.
Plus qu’un simple générateur texte-vidéo
Contrairement à ses concurrents comme Sora d’OpenAI, AvatarFX offre la possibilité de créer des vidéos à partir d’images existantes. Une fonctionnalité qui ouvre la porte à des usages innovants, mais aussi à des dérives potentielles.
Les risques des deepfakes à portée de tous
La facilité avec laquelle il est possible de créer des vidéos réalistes soulève des inquiétudes. L’utilisation malveillante de photos de célébrités ou de connaissances pour générer des contenus compromettants est une réalité préoccupante.
Des préoccupations sécuritaires croissantes
Character.AI est déjà sous le feu des critiques pour des problèmes de sécurité sur sa plateforme. Des parents ont intenté des procès, accusant les chatbots d’encourager des comportements dangereux chez leurs enfants.
Vers une régulation nécessaire
Face à ces défis, Character.AI a mis en place des contrôles parentaux et des mesures de sécurité. Cependant, l’efficacité de ces outils dépend de leur utilisation, souvent négligée par les jeunes utilisateurs.
