Les intelligences artificielles modernes, notamment les grands mod\u00e8les de langage, sont de plus en plus expos\u00e9es \u00e0 des attaques par injection de prompts. Ces attaques permettent \u00e0 des acteurs malveillants de manipuler les r\u00e9ponses des mod\u00e8les pour contourner les protections et obtenir des comportements non pr\u00e9vus par leurs concepteurs. Une telle manipulation peut entra\u00eener des fuites de donn\u00e9es, des usurpations d\u2019identit\u00e9 ou d\u2019autres cons\u00e9quences graves, que ce soit par une injection directe dans la requ\u00eate ou par l\u2019exploitation de sources externes comme des sites web ou des fichiers.<\/p>\n
Pour contrer cette menace, des m\u00e9thodes d\u2019apprentissage automatique ont \u00e9t\u00e9 \u00e9valu\u00e9es afin de d\u00e9tecter ces tentatives de manipulation. Quatre approches principales ont \u00e9t\u00e9 compar\u00e9es : les classifieurs traditionnels utilisant des repr\u00e9sentations vectorielles des textes, les mod\u00e8les transformateurs ajust\u00e9s pour la t\u00e2che, les mod\u00e8les sp\u00e9cialis\u00e9s dans la d\u00e9tection des injections de prompts, et enfin les grands mod\u00e8les de langage utilis\u00e9s comme classifieurs.<\/p>\n
Les classifieurs traditionnels, comme les for\u00eats al\u00e9atoires ou les r\u00e9seaux de neurones multicouches, offrent une bonne pr\u00e9cision tout en n\u00e9cessitant peu de ressources informatiques. Ils atteignent des performances remarquables, avec des scores d\u00e9passant parfois 96 % pour la d\u00e9tection des prompts malveillants. Leur simplicit\u00e9 les rend adapt\u00e9s aux environnements o\u00f9 les ressources sont limit\u00e9es.<\/p>\n
Les mod\u00e8les transformateurs ajust\u00e9s, tels que DistilBERT, RoBERTa ou DeBERTa, se distinguent par leur capacit\u00e9 \u00e0 d\u00e9tecter les attaques avec une pr\u00e9cision proche de 99,6 %. Ces mod\u00e8les, plus complexes, analysent finement le sens des textes et identifient les tentatives de manipulation avec une grande fiabilit\u00e9. Leur principal inconv\u00e9nient r\u00e9side dans leur co\u00fbt computationnel plus \u00e9lev\u00e9, ce qui peut limiter leur d\u00e9ploiement dans des syst\u00e8mes n\u00e9cessitant des r\u00e9ponses rapides.<\/p>\n
Les mod\u00e8les sp\u00e9cialis\u00e9s, con\u00e7us sp\u00e9cifiquement pour rep\u00e9rer les injections de prompts, montrent des r\u00e9sultats mitig\u00e9s. Bien qu\u2019ils soient optimis\u00e9s pour cette t\u00e2che, leur taux de d\u00e9tection reste souvent faible, avec des scores de rappel parfois inf\u00e9rieurs \u00e0 25 %. Cela signifie qu\u2019ils laissent passer un nombre important d\u2019attaques, r\u00e9duisant ainsi leur utilit\u00e9 pratique.<\/p>\n
Enfin, les grands mod\u00e8les de langage g\u00e9n\u00e9ralistes, comme gpt-5-nano, peuvent aussi servir \u00e0 d\u00e9tecter ces attaques. Avec une pr\u00e9cision de 84 % et un rappel de 71 %, ils offrent un \u00e9quilibre int\u00e9ressant entre performance et polyvalence. Leur force r\u00e9side dans leur capacit\u00e9 \u00e0 s\u2019adapter \u00e0 diff\u00e9rents types de requ\u00eates sans n\u00e9cessiter d\u2019entra\u00eenement sp\u00e9cifique.<\/p>\n
Cette analyse r\u00e9v\u00e8le qu\u2019aucune m\u00e9thode ne domine toutes les autres dans tous les contextes. Les classifieurs traditionnels conviennent aux syst\u00e8mes l\u00e9gers, tandis que les mod\u00e8les transformateurs ajust\u00e9s excellent l\u00e0 o\u00f9 la pr\u00e9cision prime sur la vitesse. Les mod\u00e8les sp\u00e9cialis\u00e9s, bien que prometteurs, doivent encore progresser pour rivaliser avec les autres approches. Quant aux grands mod\u00e8les de langage, ils repr\u00e9sentent une solution flexible, mais leur d\u00e9ploiement d\u00e9pend des contraintes techniques et des besoins sp\u00e9cifiques.<\/p>\n
DOI\u00a0:<\/strong> https:\/\/doi.org\/10.1007\/s10207-026-01264-8<\/a><\/p>\n Titre\u00a0:<\/strong> Comparative evaluation of machine learning methods for protecting LLMs from prompt injection attacks<\/p>\n Revue : <\/strong> International Journal of Information Security<\/p>\n \u00c9diteur : <\/strong> Springer Science and Business Media LLC<\/p>\n Auteurs : <\/strong> Nazarii Dzhaliuk; Dmytro Sabodashko; Volodymyr Khoma; Yuriy Khoma; Viktor Kolchenko; Michal Podpora<\/p>\n","protected":false},"excerpt":{"rendered":" Les mod\u00e8les d\u2019apprentissage automatique prot\u00e8gent mieux les intelligences artificielles des attaques par injection de prompts Les intelligences artificielles modernes, notamment les grands mod\u00e8les de langage, sont de plus en plus expos\u00e9es \u00e0 des attaques par injection de prompts. Ces attaques permettent \u00e0 des acteurs malveillants de manipuler les r\u00e9ponses des mod\u00e8les pour contourner les protections… Poursuivre la lecture Les mod\u00e8les d\u2019apprentissage automatique prot\u00e8gent mieux les intelligences artificielles des attaques par injection de prompts<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[7],"tags":[],"class_list":["post-28","post","type-post","status-publish","format-standard","hentry","category-desinformation","entry"],"_links":{"self":[{"href":"https:\/\/theroboticsreview.com\/fr\/wp-json\/wp\/v2\/posts\/28","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/theroboticsreview.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/theroboticsreview.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/theroboticsreview.com\/fr\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/theroboticsreview.com\/fr\/wp-json\/wp\/v2\/comments?post=28"}],"version-history":[{"count":1,"href":"https:\/\/theroboticsreview.com\/fr\/wp-json\/wp\/v2\/posts\/28\/revisions"}],"predecessor-version":[{"id":29,"href":"https:\/\/theroboticsreview.com\/fr\/wp-json\/wp\/v2\/posts\/28\/revisions\/29"}],"wp:attachment":[{"href":"https:\/\/theroboticsreview.com\/fr\/wp-json\/wp\/v2\/media?parent=28"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/theroboticsreview.com\/fr\/wp-json\/wp\/v2\/categories?post=28"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/theroboticsreview.com\/fr\/wp-json\/wp\/v2\/tags?post=28"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}