MtoM Mag - Le journal de l'MtoM.

Eurotech, un chef de file de l’intelligence artificielle des objets (AIoT), est fier de présenter sa nouvelle gamme de serveurs d’IA générative qui fonctionnent comme des plateformes complètes, capables de prendre en charge une variété de modèles d’IA générative, en commençant par les grands modèles de langage (LLM).

Cette nouvelle gamme permet aux organisations de tirer pleinement parti des dernières avancées en matière d’IA générative, d’améliorer la productivité tout en construisant des bases de connaissances de données internes sécurisées. En conservant les données sensibles au sein de l’infrastructure de l’entreprise, ces serveurs offrent une sécurité et des économies significatives par rapport aux alternatives basées sur le cloud. Ils offrent également une véritable flexibilité pour le mise au point de modèles spécifiques à un domain, ce qui permet aux entreprises d’adapter les modèles d’IA à leurs besoins et d’optimiser l’efficience opérationnelle.

L’offre d’Eurotech va du niveau d’entrée au niveau ultime, répondant ainsi à diverses demandes en matière d’IA, du déploiement de modèles pré-entraînés à une formation LLM intensive et à la mise au point. Ces serveurs sont équipés de l’ensemble des capacités accélérées de NVIDIA pour fournir de puissantes performances de traitement et aider les entreprises à faire face aux charges de travail d’IA les plus exigeantes dans de multiples cas d’utilisation.

Entièrement compatibles avec la plateforme NVIDIA AI Enterprise, les serveurs d’IA générative d’Eurotech s’intègrent parfaitement à NVIDIA NIM et NVIDIA Metropolis microservices. Ces intégrations permettent d’optimiser l’inférence pour un large éventail de modèles d’IA populaires de NVIDIA et de son écosystème de partenaires, facilitant ainsi le développement de chatbots intelligents, de copilotes avancés ou d’agents d’IA visuels.

Marco Carrer, directeur technique d’Eurotech, déclare : « Nous sommes ravis de présenter notre nouvelle gamme de serveurs spécialement conçus pour exploiter la puissance des applications d’IA générative. Alors que l’IA générative progresse vers une nouvelle génération d’applications intelligentes, les serveurs d’IA générative d’Eurotech offrent une meilleure évolutivité, renforcent la sécurité et la confidentialité des données, tout en permettant l’ajustement de modèles spécifiques à un domaine et en facilitant le déploiement à la périphérie. Nous nous réjouissons à la perspective de voir les solutions innovantes que nos clients développeront grâce à ces technologies de pointe ».

Pour démontrer les applications pratiques de ces plateformes, Eurotech a mis à disposition un agent LLM open-source agissant comme un copilote, améliorant l’utilisation de la base de connaissances interne en tirant parti de la génération augmentée de récupération (RAG). Cet outil s’appuie sur NVIDIA AI Enterprise, qui comprend NVIDIA NIM pour l’IA générative, et sur des frameworks open-source comme Llama Index pour transformer les fiches techniques des produits, les manuels et les documents internes en un tuteur intelligent pour l’intégration des employés et les demandes des clients.

Les entreprises qui souhaitent voir le copilote en action ou reproduire cette expérience dans le cadre de leurs propres initiatives en matière d’IA peuvent accéder au code source sur la page Gen AI d’Eurotech.

https://www.eurotech.com/