OpenAI a récemment introduit une nouvelle fonctionnalité de génération d’images dans ChatGPT, marquant une évolution significative dans les capacités du chatbot. Cette mise à jour, tout en permettant des créations artistiques impressionnantes, soulève également des questions sur les limites de la modération de contenu.
Une nouvelle ère pour la création d’images
Cette semaine, OpenAI a dévoilé un générateur d’images intégré à ChatGPT, capable de produire des illustrations dans le style de Studio Ghibli, entre autres. Cette avancée technologique améliore non seulement la qualité des images mais aussi leur édition, le rendu du texte et la représentation spatiale.
Modération de contenu : un tournant
OpenAI a également annoncé un assouplissement de ses politiques de modération de contenu. Désormais, ChatGPT peut, sur demande, générer des images de personnalités publiques, de symboles haineux et de caractéristiques raciales, une pratique auparavant interdite.
Une approche plus nuancée
Selon Joanne Jang, responsable du comportement des modèles chez OpenAI, l’entreprise adopte une approche plus précise pour éviter les préjudices réels, tout en reconnaissant les limites de sa compréhension. Cette évolution s’inscrit dans une stratégie plus large visant à réduire les refus de ChatGPT sur des sujets sensibles.
Controverse et régulation
Ces changements interviennent dans un contexte de débat sur la modération de contenu par l’IA, avec des critiques venant de divers horizons politiques. OpenAI insiste sur sa volonté de donner plus de contrôle aux utilisateurs, rejetant toute motivation politique.
L’équilibre entre liberté et responsabilité
Alors que ChatGPT peut maintenant imiter des styles artistiques comme ceux de Pixar ou Studio Ghibli, des questions sur l’utilisation équitable des œuvres protégées par le droit d’auteur resurgissent. OpenAI maintient cependant des garde-fous, notamment pour les images impliquant des enfants.
