MtoM Mag - Le journal de l'MtoM.

Checkmarx, le leader mondial de la sécurité applicative (AST) annonce aujourd’hui CheckAI pour ChatGPT, premier plugin de l’industrie conçu pour détecter et prévenir les attaques visant le code généré par ChatGPT. Il permet aux développeurs et aux équipes de sécurité qui travaillent dans l’interface ChatGPT, de se protéger contre les attaques causées par les packages malveillants et les dépendances open source.

« Rien n’est plus critique pour un RSSI que la bataille entre les formidables opportunités apportées par l’IA pour la génération de code et les nouvelles vulnérabilités qui en découlent », a déclaré Sandeep Johri, CEO de Checkmarx. « Checkmarx est un pionnier de la sécurité applicative. Avec l’intelligence artificielle générative, jouant un rôle de plus en plus croissant dans le développement d’applications, nous sommes heureux de fournir la première solution du marché pour aider les organisations à se protéger contre ces nouvelles générations d’attaques déjà émergentes. Avec CheckAI, les RSSI enrichiront l’expérience de leur développeurs pour que ces derniers puissent accélérer leurs délais de livraison dans le respect des normes AppSec. »

Le plug-in CheckAI GPT associé à Supply Chain Threat Intelligence de Checkmarx permettra aux RSSI et responsables de la sécurité applicative de s’assurer que les équipes de développement capitalisent au maximum sur leurs outils d’IA générative à l’instar de ChatGPT, en matière de gains de temps, tout en restant conformes aux normes AppSec.

Au sein d’un environnement productif offrant une expérience de développement de qualité, les développeurs pourront facilement :

1. Analyser le code généré par IA dans l’interface ChatGPT à la recherche de vulnérabilités

2. Recevoir des commentaires en temps réel sur les vulnérabilités potentielles ou la validation de leurs packages open source

3. Mettre en œuvre une protection contre les packages open source malveillants

En travaillant dans l’interface ChatGPT, les développeurs peuvent rechercher les vulnérabilités open source et les paquets malveillants de manière transparente dans le code généré par IA.

« L’IA générative disrupte aujourd’hui le développement de logiciels et nous devons nous assurer que nous fournissons à nos développeurs les bons outils et la bonne gouvernance. Personne ne doit être ralenti. » déclare Sharon Uda, vice-présidente de l’ingénierie, CHEQ. « Nous supportons au quotidien les équipes marketing contre ses dangers mais la protection de nos développeurs est tout aussi cruciale. Dotés du plugin Checkmarx pour ChatGPT, nous sommes aujourd’hui en mesure de les protéger contre ces nouveaux types d’attaques émergents. »

« Nous assistons d’ores et déjà à de nouvelles attaques ciblant les solutions d’IA générative, y compris des « hallucinations IA » et des injections rapides, un top 10 des vulnérabilités OWASP ayant été déjà publié pour les applications de modèles de langages volumineux LLM », ajoute Ori Bendet, VP Product Management chez Checkmarx. « Nous sommes fiers d’être le premier fournisseur AppSec à proposer de véritables solutions pour se protéger contre ces nouveaux types d’attaques et encourageons l’ensemble des fournisseurs de solutions d’intelligence artificielle générative à s’associer avec nous au fil de nos nouvelles divulgations. »

En décembre 2022, les chercheurs en sécurité Checkmarx ont découvert une vulnérabilité dans le processus d’inscription OpenAI qui aurait pu permettre un crédit illimité de nouveaux comptes. L’équipe a signalé la vulnérabilité à OpenAI, qui a rapidement travaillé à la résoudre. OpenAI est une société de recherche et développement dont la mission est de créer une IA sûre et performante qui profite à toute l’humanité.

Le plugin CheckAI pour ChatGPT est disponible dans le cadre de la version bêta des plugins ChatGPT, actuellement disponible pour tous les utilisateurs de ChatGPT Plus. Il protège contre les paquets malveillants et les dépendances open source. D’autres cas d’usage, tels que la protection rapide, les validations IaC et d’API et plus encore, seront ajoutés dans le cadre de futures versions.

CheckAI est alimenté par Checkmarx One, la plateforme de sécurité des applications la plus complète du secteur, ainsi que par Supply Chain Threat Intelligence de Checkmarx pour détecter les packages open source malveillants. Spécialement conçu pour le développement d’applications cloud natives, Checkmarx One est une plateforme hautement évolutive s’intégrant parfaitement aux outils et environnements de développement de choix des développeurs.

https://www.checkmarx.com/