Red Hat, Inc annonce de nouvelles mises à jour de Red Hat AI

Même si les entreprises cherchent à réduire les coûts de déploiement des grands modèles de langage (LLM) à grand échelle pour répondre à un nombre grandissant de cas d'utilisation, elles restent confrontées à un défi de taille : intégrer ces modèles avec leurs données propriétaires qui alimentent ces cas d'utilisation, tout en étant en mesure d'accéder à ces données quel que soit leur emplacement – que ce soit dans un datacenter, dans des clouds publics ou à la périphérie.

En combinant Red Hat OpenShift AI et Red Hat Enterprise Linux AI (RHEL AI), Red Hat AI répond à ces défis en offrant une plateforme d'IA d'entreprise qui permet aux utilisateurs d'adopter des modèles plus efficaces et optimisés, ajustés sur des données spécifiques à l'entreprise et qui peuvent être déployés partout dans le cloud hybride dans le cadre de leur entraînement et de leur inférence, sur tout un éventail d'architectures informatiques accélérées.

Red Hat OpenShift AI

Red Hat OpenShift AI propose une plateforme d'IA complète pour gérer les cycles de vie de l'IA prédictive et de l'IA générative dans le cloud hybride, dont les opérations de Machine Learning (MLOps) et les fonctionnalités LLMOps. En outre, la plateforme dispose d'une fonctionnalité permettant de créer des modèles d'IA prédictive et d'ajuster des modèles d'IA générative, ainsi que des outils visant à simplifier la gestion des modèles d'IA, de la data science aux pipelines de modèles, en passant par le monitoring et la gouvernance de modèles.

Red Hat OpenShift AI 2.18, la toute dernière version de la plateforme, comprend de nouvelles mises à jour et de nouvelles fonctionnalités, permettant à Red Hat AI d'apporter des modèles d'IA plus efficaces et mieux optimisés dans le cloud hybride. Les principales fonctionnalités sont les suivantes :

Une mise à disposition distribuée : Fournie par le serveur d'inférence vLLM, la mise à disposition distribuée permet aux équipes informatiques de répartir la mise à disposition de modèles sur plusieurs unités de traitement graphique (GPU). Cela permet de réduire la charge sur un seul serveur, d'accélérer l'entraînement et l'ajustement, et d'utiliser plus efficacement les ressources informatiques, tout en favorisant la distribution de services sur les nœuds pour les modèles d'IA.
Une expérience d'ajustement des modèles de bout-en-bout : En utilisant InstructLab et les pipelines de data science d'OpenShift AI, cette nouvelle fonctionnalité permet de simplifier l'ajustement des LLM afin de les rendre plus évolutifs, plus efficaces et pouvant être audités dans les grands environnements de production, tout en facilitant leur gestion grâce au tableau de bord de Red Hat OpenShift AI.
AI Guardrails : Red Hat OpenShift AI 2.18 permet d'augmenter la précision, mais également d'améliorer les performances, la latence et la transparence des LLM grâce à une analyse technologique d'AI Guardrails pour surveiller et mieux protéger les interactions d'entrée des utilisateurs et les sorties des modèles. En outre, AI Guardrails offre des points de détection supplémentaires en aidant les équipes informatiques à identifier et à atténuer les propos potentiellement haineux, abusifs ou injurieux, les informations personnellement identifiables, les informations concurrentielles ou d'autres données limitées par les politiques de l'entreprise.
L'évaluation de modèles : En utilisant le composant d'évaluation du modèle de langage (lm-eval) pour fournir des informations importantes sur la qualité globale du modèle, l'évaluation de modèles permet aux data scientists de comparer les performances de leurs LLM à travers une diversité de tâches, du raisonnement logique et mathématique au langage naturel contradictoire, permettant à terme de créer des modèles d'IA plus efficaces, plus réactifs et plus personnalisés.

RHEL AI

Faisant partie intégrante du portefeuille de solutions et de services Red Hat AI, RHEL AI est une plateforme pour les modèles de fondation qui permet de développer, de tester et d'exécuter des LLM de manière plus cohérente afin d'alimenter les applications d'entreprise. La plateforme RHEL AI offre aux clients des LLM Granite et des outils d'alignement des modèles d'InstructLab ; la solution complète est fournie sous forme d'image Red Hat Enterprise Linux optimisée et amorçable pour les déploiements sur l'ensemble du cloud hybride.

Lancée en février 2025, la dernière version RHEL 1.4 comprend de nouvelles améliorations, notamment :

La prise en charge du modèle Granite 3.1 8B, qui constitue le tout dernier ajout à la famille de modèles Granite sous licence open source. Ce modèle intègre un support multilingue pour l'inférence et la personnalisation de la taxonomie/connaissance (disponible en tant qu'aperçu pour les développeurs), ainsi qu'une fenêtre contextuelle de 128k pour améliorer les résultats liés à la synthétisation et les tâches de Génération Augmentée par Récupération (RAG).
Une nouvelle interface utilisateur graphique dédiée aux contributions de compétences et de connaissance, disponible en tant qu'aperçu pour les développeurs, qui permet de simplifier l'ingestion de données et le Chunking des données, ainsi que la manière dont les utilisateurs viennent ajouter leurs propres compétences et leurs propres contributions à un modèle d'IA.
Document Knowledge-bench (DK-bench), qui permet de comparer plus facilement les modèles d'IA ajustés sur des données privées pertinentes et les performances des mêmes modèles de base non-ajustés.

Red Hat AI InstructLab on IBM Cloud

Aujourd'hui, les entreprises sont de plus en plus à la recherche de solutions d'IA qui privilégient la fiabilité et la sécurité des données, tout en réduisant au maximum les coûts et la complexité. Red Hat AI InstructLab déployé en tant que service sur IBM Cloud est conçu pour simplifier, faire évoluer et aider à améliorer l'empreinte de sécurité dans le cadre de l'entraînement et du déploiement des modèles d'IA. En simplifiant le réglage des modèles InstructLab, les entreprises peuvent créer des modèles encore plus efficaces et adaptés à leurs besoins spécifiques, tout en conservant le contrôle de leurs données.

Une formation gratuite sur les modèles Foundation AI pour les clients Red Hat

L'IA est une opportunité de transformation qui redéfinit la manière dont les entreprises fonctionnent et font preuve de compétitivité. Afin d'accompagner les organisations dans ce paysage dynamique, Red Hat offre à ses clients des cours de formation en ligne gratuits sur les modèles Foundation AI. Red Hat propose deux parcours d'apprentissage de l'IA adaptés aux dirigeants expérimentés et aux novices, ce qui permet de former les utilisateurs tous niveaux confondus sur la manière dont l'IA peut contribuer à améliorer les activités de l'entreprise, à rationaliser la prise de décisions et à stimuler l'innovation, ainsi que leur façon d'appliquer ces connaissances lorsqu'ils utilisent les solutions d'IA de Red Hat.

– Disponibilité

Red Hat OpenShift AI 2.18 et Red Hat Enterprise Linux AI 1.4 sont désormais disponibles au grand public. Pour en savoir plus sur les fonctionnalités supplémentaires, les améliorations, les corrections de bogues et connaître les modalités de mise à niveau pour accéder à la nouvelle version de Red Hat OpenShift AI, cliquer ici ; pour connaître les modalités de mise à niveau pour accéder à la nouvelle version de RHEL AI, cliquer ici.

Red Hat AI InstructLab on IBM Cloud sera disponible prochainement. Les parcours d'apprentissage de Red Hat consacrés aux modèles Foundation AI sont désormais disponibles pour tous les clients de Red Hat.