Les modèles d’apprentissage automatique protègent mieux les intelligences artificielles des attaques par injection de prompts

Les intelligences artificielles modernes, notamment les grands modèles de langage, sont de plus en plus exposées à des attaques par injection de prompts. Ces attaques permettent à des acteurs malveillants de manipuler les réponses des modèles pour contourner les protections et obtenir des comportements non prévus par leurs concepteurs. Une telle manipulation peut entraîner des fuites de données, des usurpations d’identité ou d’autres conséquences graves, que ce soit par une injection directe dans la requête ou par l’exploitation de sources externes comme des sites web ou des fichiers.

Pour contrer cette menace, des méthodes d’apprentissage automatique ont été évaluées afin de détecter ces tentatives de manipulation. Quatre approches principales ont été comparées : les classifieurs traditionnels utilisant des représentations vectorielles des textes, les modèles transformateurs ajustés pour la tâche, les modèles spécialisés dans la détection des injections de prompts, et enfin les grands modèles de langage utilisés comme classifieurs.

Les classifieurs traditionnels, comme les forêts aléatoires ou les réseaux de neurones multicouches, offrent une bonne précision tout en nécessitant peu de ressources informatiques. Ils atteignent des performances remarquables, avec des scores dépassant parfois 96 % pour la détection des prompts malveillants. Leur simplicité les rend adaptés aux environnements où les ressources sont limitées.

Les modèles transformateurs ajustés, tels que DistilBERT, RoBERTa ou DeBERTa, se distinguent par leur capacité à détecter les attaques avec une précision proche de 99,6 %. Ces modèles, plus complexes, analysent finement le sens des textes et identifient les tentatives de manipulation avec une grande fiabilité. Leur principal inconvénient réside dans leur coût computationnel plus élevé, ce qui peut limiter leur déploiement dans des systèmes nécessitant des réponses rapides.

Les modèles spécialisés, conçus spécifiquement pour repérer les injections de prompts, montrent des résultats mitigés. Bien qu’ils soient optimisés pour cette tâche, leur taux de détection reste souvent faible, avec des scores de rappel parfois inférieurs à 25 %. Cela signifie qu’ils laissent passer un nombre important d’attaques, réduisant ainsi leur utilité pratique.

Enfin, les grands modèles de langage généralistes, comme gpt-5-nano, peuvent aussi servir à détecter ces attaques. Avec une précision de 84 % et un rappel de 71 %, ils offrent un équilibre intéressant entre performance et polyvalence. Leur force réside dans leur capacité à s’adapter à différents types de requêtes sans nécessiter d’entraînement spécifique.

Cette analyse révèle qu’aucune méthode ne domine toutes les autres dans tous les contextes. Les classifieurs traditionnels conviennent aux systèmes légers, tandis que les modèles transformateurs ajustés excellent là où la précision prime sur la vitesse. Les modèles spécialisés, bien que prometteurs, doivent encore progresser pour rivaliser avec les autres approches. Quant aux grands modèles de langage, ils représentent une solution flexible, mais leur déploiement dépend des contraintes techniques et des besoins spécifiques.

Bases documentaires

Rapport de référence

DOI : https://doi.org/10.1007/s10207-026-01264-8

Titre : Comparative evaluation of machine learning methods for protecting LLMs from prompt injection attacks

Revue : International Journal of Information Security

Éditeur : Springer Science and Business Media LLC

Auteurs : Nazarii Dzhaliuk; Dmytro Sabodashko; Volodymyr Khoma; Yuriy Khoma; Viktor Kolchenko; Michal Podpora