Cette annonce intervient au cours d'une année d'innovation rapide pour Red Hat AI, suite à l'introduction de Red Hat AI Inference Server et à la sortie de Red Hat AI 3. Des clients du monde entier et de tous les secteurs adoptent Red Hat AI pour stimuler l'innovation grâce à des applications d'IA génératives, prédictives et agentiques.
À mesure que les entreprises passent de l'expérimentation à la production, elles sont confrontées à un défi complexe : déployer des modèles non seulement performants, mais aussi démonstrables, fiables et sécurisés. Les capacités et les mesures de sécurité sont essentielles pour les opérations d'apprentissage automatique (MLOps) modernes. Cette priorité accordée à la sécurité et à la confiance témoigne de l'engagement de Red Hat et d'IBM à aider leurs clients à adopter une approche axée sur la sécurité lors du déploiement responsable de l'IA dans des environnements de cloud hybride.
L'intégration de la technologie de Chatterbox Labs crée une plateforme unifiée où la sécurité est intégrée, renforçant ainsi la capacité de Red Hat à prendre en charge les charges de travail d'IA en production, quel que soit le modèle, l'accélérateur ou le lieu d'utilisation. Pour faire face aux répercussions imprévues de l'IA : fondée en 2011, Chatterbox Labs apporte une technologie et une expertise essentielles en matière de sécurité et de transparence de l'IA. Son expertise en matière d'évaluation quantitative des risques liés à l'IA a été saluée par des groupes de réflexion indépendants et des décideurs politiques du monde entier, et cette acquisition apporte à Red Hat une technologie clé en apprentissage automatique.
Chatterbox Labs propose des solutions automatisées et personnalisées de test de sécurité et de protection de l'IA, fournissant les indicateurs de risque objectifs dont les dirigeants ont besoin pour approuver le déploiement de l'IA en production.
Cette technologie offre une approche robuste et indépendante du modèle pour la validation des données et des modèles grâce à :
AIMI pour l'IA générative : fournit des indicateurs de risque quantitatifs et indépendants pour les grands modèles de langage (LLM).
AIMI pour l'IA prédictive : valide toute architecture d'IA selon des critères clés, notamment la robustesse, l'équité et l'explicabilité.
Mécanismes de protection : identifie et corrige les invites dangereuses, toxiques ou biaisées avant le déploiement des modèles en production.
Cette acquisition s'inscrit dans la vision de Red Hat, qui vise à prendre en charge divers modèles et environnements de déploiement de cloud hybride. Elle complète également les fonctionnalités évolutives introduites dans Red Hat AI 3, notamment pour l'IA agentique et le protocole MCP (Model Context Protocol). À mesure que les entreprises adoptent l'IA agentique, la fiabilité et la sécurité des modèles deviennent encore plus cruciales, compte tenu du rôle complexe et autonome des agents d'IA et de leur impact potentiel sur les systèmes critiques de l'entreprise. Chatterbox Labs a mené des recherches sur la sécurité agentique globale, notamment la surveillance des réponses des agents et la détection des déclencheurs d'actions du serveur MCP. Ces travaux s'inscrivent dans la feuille de route de Red Hat pour la prise en charge de Llama Stack et du MCP, positionnant ainsi Red Hat pour sécuriser la prochaine génération de charges de travail intelligentes et automatisées sur une base fiable et adaptée aux entreprises. En combinant les capacités MLOps de Red Hat avec les mécanismes de protection de Chatterbox Labs, Red Hat permettra aux organisations d'exploiter leurs investissements en IA avec une plus grande confiance.
