Brave a récemment révélé le déploiement d'une technologie considérée comme le Graal dans le domaine de l'intelligence artificielle (IA) générative : un système qui empêche les hallucinations.
- Brave a dévoilé AI Grounding, une technologie qui vise à réduire les hallucinations dans les IA génératives, un problème majeur actuel.
- Les IA générant du texte inventent souvent des faits ou citations, ce qui nuit à la confiance dans cette technologie.
- AI Grounding est intégré à l'API Brave Search pour améliorer la fiabilité des réponses fournies par les modèles d'IA.
Car c'est un véritable fléau dans la filière : les IA générant du texte ont une grande propension à halluciner. Concrètement, elles peuvent inventer des faits, des chiffres ou des citations inexistants, tout en les présentant avec assurance comme s'ils étaient véridiques. C'est évidemment problématique, les chercheurs peinant encore à résoudre ce biais qui ébranle la confiance dans la technologie. Et si Brave avait trouvé la solution ?
Des réponses reliées à des sources réelles
L'entreprise, surtout connue pour son navigateur mettant l'accent sur la vie privée, a en effet présenté AI Grounding. Cette nouvelle fonctionnalité, intégrée à son API Brave Search, a pour objectif de réduire les hallucinations des modèles d'IA et d'améliorer la fiabilité des réponses.
Ainsi, les résultats générés par l'IA sont désormais reliés à des sources réelles et actuelles, de quoi limiter considérablement les erreurs factuelles. L'entreprise s'appuie sur son propre index de recherche, indépendant de Google, Microsoft ou autres géants du web, et garantit une utilisation sans pistage des utilisateurs.
Deux modes sont proposés : une recherche simple pour des réponses rapides, et un mode « Recherche » plus poussé, capable d’effectuer plusieurs requêtes et d'analyser les résultats.
Pour rappel, l'API Brave Search permet aux développeurs et entreprises d'intégrer le moteur de recherche indépendant de Brave dans leurs propres applications et services. Il peut alimenter Pensée pour alimenter chatbots, assistants virtuels, outils de veille ou moteurs de recherche spécialisés et s'adresse aussi bien aux petites start-up qu'aux grandes entreprises.
Brave ouvre la voie à des applications IA plus fiables
De cette manière, Brave se positionne encore un peu plus comme une alternative aux services fournis par les géants de la tech. Son approche renforce la confiance des développeurs qui seront en mesure de limiter les risques de contenus faux et inventés, avec des applications normalement plus fiables.
À terme, la société a également l'intention d'incorporer AI Grounding dans ses produits destinés au grand public, à l'instar de son moteur de recherche, mais aussi dans sa propre intelligence artificielle, Leo, qui agit comme un assistant sur son navigateur.
Sources : Brave, Web Pro News
