Protection à 360° contre les codes malveillants

F5 Newsroom Staff

Malgré tous les avantages, les gains d’efficacité et les améliorations de productivité que les grands modèles de langage (LLM) ont déjà apportés aux entreprises, aucune organisation ne peut se permettre de négliger les menaces inhérentes à leur déploiement. La vulnérabilité de la surface d’attaque d’une organisation augmente à mesure que le nombre d’outils présents sur le système augmente.

Le code malveillant dissimulé — c’est-à-dire tout code intégré à une réponse susceptible de nuire à l’appareil, aux données ou au réseau de l’utilisateur — constitue une menace sérieuse qui ne cesse de s’aggraver. Ce type de code peut servir de première étape pour dérober des informations sensibles, installer des logiciels malveillants, usurper l’identité de l’utilisateur ou prendre le contrôle de son appareil, ou encore lancer des attaques par déni de service (DoS) ou d’autres types d’attaques. Sa capacité à se fondre dans un contenu légitime le rend d’autant plus dangereux. Les vecteurs de code malveillant liés aux grands modèles de langage (LLM) comprennent :

• Exploiter les vulnérabilités du modèle afin d’injecter du code malveillant dans les réponses.
• Déployer des attaques d’ingénierie sociale qui envoient aux utilisateurs des réponses soigneusement élaborées semblant légitimes, mais contenant des liens vers des sites web ou des fichiers qui propagent du code malveillant.
• Utiliser des API compromises ou des services tiers qui injectent du code malveillant dans les réponses.

Dans chacun de ces scénarios, même les employés qui maîtrisent parfaitement les protocoles du programme de sensibilisation à la sécurité de leur organisation n’auraient aucun moyen de savoir que leurs interactions ordinaires et habituelles avec le LLM ont permis à un logiciel malveillant de pénétrer dans le système de leur organisation. Mais une fois introduit dans un réseau ou un autre système privé, un code malveillant peut causer des ravages de multiples façons, notamment :

• Vol ou manipulation de données : Le code peut être conçu pour voler ou manipuler des données sensibles, telles que des informations financières personnelles, des données clients ou des éléments de propriété intellectuelle (PI). Une fois les données exfiltrées, l’attaquant peut :
  • Utiliser les données volées pour commettre une usurpation d’identité ou une fraude financière, ou pour perturber les marchés.
  • Vendre les données ou la propriété intellectuelle sur le dark web.
  • Le publier sur Internet à la vue de tous.
  • Toutes les réponses ci-dessus.
• Interruption de service : Un code malveillant peut provoquer des dysfonctionnements au sein des systèmes de l’entreprise, entraînant des interruptions de service susceptibles de retarder le traitement des échanges avec les clients ou les fournisseurs, de ralentir la prise de décision, de réduire l’efficacité et de compromettre des opportunités commerciales, ce qui pourrait occasionner d’importantes pertes financières pour l’organisation.
• Atteinte à la réputation : Une attaque réussie par code malveillant via un LLM pourrait nuire à la réputation de l’entreprise, entraînant une perte de confiance de la part des clients, des actionnaires, des autorités de réglementation, des partenaires et d’autres parties prenantes, ainsi que des répercussions financières à long terme.

Les professionnels de l’IA et de la cybersécurité savent que la première ligne de défense contre les intrusions numériques repose sur un périmètre robuste et correctement entretenu, et la deuxième sur un solide programme de sensibilisation des employés. Déployée à l’échelle de l’entreprise, la plateforme F5 AI Guardrails offre une couche de confiance légère et indépendante des modèles qui comble le fossé entre ces solutions en permettant une utilisation sécurisée des solutions d’IA générative (GenAI), sans interruption de service liée à l’installation ou à l’entraînement. Une observabilité complète permet aux équipes de sécurité de savoir en temps réel ce qui se passe sur l’ensemble des modèles, afin de déjouer et de prévenir les attaques internes et externes. Les contrôles d’accès fondés sur des politiques permettent aux administrateurs de limiter l’accès aux modèles et leur utilisation au niveau des groupes et des utilisateurs, afin de surveiller et de maîtriser les coûts. La limitation du débit offre une protection contre les attaques par déni de service visant les modèles.

F5 AI Guardrails offre également une protection granulaire grâce à une suite complète d’analyseurs personnalisables qui examinent :

• Analyse chaque requête adressée au LLM afin de détecter tout contenu privé, confidentiel ou susceptible d’être exploité, et empêche ce contenu de quitter le système.
• Analysez chaque réponse afin d’y détecter du code malveillant ou tout autre contenu suspect et empêchez-les d’entrer dans le système.

Tous les détails de chaque interaction sont enregistrés, notamment le prompt, la réponse, l’utilisateur, la date et l’heure, ainsi que les résultats de chaque garde-fou, garantissant une auditabilité et une traçabilité complètes des activités, des contenus et des coûts dans un environnement sécurisé et privé.

F5 AI Guardrails permet de mettre en œuvre simultanément des pratiques de cybersécurité et de sécurité de l’IA, offrant ainsi aux organisations une solution robuste et sécurisée pour poursuivre leurs activités habituelles tout en protégeant leurs collaborateurs, leurs actifs et leurs processus contre les risques liés à l’IA.

Cliquez ici pour planifier une démonstration de notre plateforme de sécurisation et d’adoption de l’IA générative.

À propos de l’auteur

F5 Newsroom Staff

Autres articles de F5 Newsroom Staff