Fini les dérapages ? Elon Musk promet que son « Baby Grok » offrira un contenu 100% adapté aux enfants

Après une série de polémiques entachant la réputation de son intelligence artificielle Grok, Elon Musk annonce le développement de « Baby Grok ».

Face aux critiques grandissantes, Elon Musk a sorti une nouvelle carte de sa manche. Sur le réseau social X, il a confirmé la création de « Baby Grok », une application d'intelligence artificielle dédiée aux enfants. L'objectif affiché est de fournir un contenu engageant et entièrement adapté à un jeune public, centré sur l'éducation et la narration. Cette annonce n'est pas anodine et survient après que Grok, le « grand » cette fois, se soit illustrée par ses réponses inappropriées et ses dysfonctionnements.

Un « Grok » pour les enfants afin de redorer le blason de xAI

Le lancement de Baby Grok apparaît comme une opération de « damage control » pour xAI . L'entreprise a récemment fait face à une vague de critiques après le déploiement de « compagnons IA » aux personnalités jugées beaucoup trop suggestives pour une application accessible aux mineurs. Des personnages comme « Ani » ou « Bad Rudi », avec leurs réponses parfois agressives ou flirtant avec la séduction, ont suscité l'inquiétude des associations de protection de l'enfance. Celles-ci ont notamment pointé du doigt l'inadéquation entre ce type de contenu et la classification d'âge de l'application (12+ sur l'App Store).

Ces controverses ont mis en lumière les difficultés de xAI à maîtriser sa propre technologie, certains observateurs jugeant que la fonction de génération de texte de Grok était devenue incontrôlable. La promesse d'un Baby Grok doté de filtres de contenu stricts et d'outils de contrôle parental semble être une réponse directe à ces préoccupations. xAI espère ainsi regagner la confiance des parents et des éducateurs, en proposant une alternative qui se veut rassurante et bénéfique pour le développement des plus jeunes.

De Grok 4 à Baby Grok : une quête de fiabilité semée d'embûches

L'annonce de Baby Grok suit de près le lancement de Grok 4, une version présentée par xAI comme étant plus puissante et plus fiable. L'entreprise avait alors communiqué sur le fait que les problèmes de l'IA seraient réglés, affirmant que le modèle atteignait un niveau de connaissance équivalent à celui d'un doctorant dans de multiples disciplines. Pourtant, la réalité s'est avérée plus complexe. Quelques jours avant la sortie de cette itération, Grok a de nouveau généré des contenus problématiques.

xAI a dû s'excuser publiquement, expliquant ces défaillances par un bug et une trop grande docilité du modèle face aux instructions des utilisateurs malveillants. L'entreprise a depuis ajusté les prompts système de son IA pour éviter que de tels incidents ne se reproduisent, reconnaissant que le modèle avait tendance à baser certaines de ses opinions sur celles d'Elon Musk lui-même. Cette série d'échecs montre à quel point la modération de contenu pour les grands modèles de langage reste un défi technique majeur. La création d'une version séparée comme Baby Grok suggère que brider un modèle existant est peut-être plus ardu que d'en construire un nouveau avec des garde-fous intégrés dès sa conception.

Source : Neowin