Le intelligenze artificiali moderne, in particolare i grandi modelli linguistici, sono sempre pi\u00f9 esposte ad attacchi di prompt injection. Questi attacchi permettono a attori malintenzionati di manipolare le risposte dei modelli per aggirare le protezioni e ottenere comportamenti non previsti dai loro creatori. Una tale manipolazione pu\u00f2 portare a perdite di dati, furti di identit\u00e0 o altre conseguenze gravi, sia attraverso un\u2019iniezione diretta nella richiesta che sfruttando fonti esterne come siti web o file.<\/p>\n
Per contrastare questa minaccia, sono stati valutati metodi di apprendimento automatico per rilevare questi tentativi di manipolazione. Sono state confrontate quattro approcci principali: i classificatori tradizionali che utilizzano rappresentazioni vettoriali dei testi, i modelli transformer adattati per il compito, i modelli specializzati nel rilevamento delle iniezioni di prompt e, infine, i grandi modelli linguistici utilizzati come classificatori.<\/p>\n
I classificatori tradizionali, come le foreste casuali o le reti neurali multiclivello, offrono una buona precisione richiedendo poche risorse computazionali. Raggiungono prestazioni notevoli, con punteggi che superano talvolta il 96% nel rilevamento di prompt dannosi. La loro semplicit\u00e0 li rende adatti agli ambienti in cui le risorse sono limitate.<\/p>\n
I modelli transformer adattati, come DistilBERT, RoBERTa o DeBERTa, si distinguono per la loro capacit\u00e0 di rilevare gli attacchi con una precisione vicina al 99,6%. Questi modelli, pi\u00f9 complessi, analizzano in modo approfondito il significato dei testi e identificano i tentativi di manipolazione con grande affidabilit\u00e0. Il loro principale svantaggio risiede nel costo computazionale pi\u00f9 elevato, che pu\u00f2 limitarne il dispiegamento in sistemi che richiedono risposte rapide.<\/p>\n
I modelli specializzati, progettati specificamente per individuare le iniezioni di prompt, mostrano risultati misti. Nonostante siano ottimizzati per questo compito, il loro tasso di rilevamento rimane spesso basso, con punteggi di recall talvolta inferiori al 25%. Ci\u00f2 significa che lasciano passare un numero significativo di attacchi, riducendo cos\u00ec la loro utilit\u00e0 pratica.<\/p>\n
Infine, i grandi modelli linguistici generalisti, come gpt-5-nano, possono essere utilizzati anche per rilevare questi attacchi. Con una precisione dell\u201984% e un recall del 71%, offrono un equilibrio interessante tra prestazioni e versatilit\u00e0. La loro forza risiede nella capacit\u00e0 di adattarsi a diversi tipi di richieste senza richiedere un addestramento specifico.<\/p>\n
Questa analisi rivela che nessun metodo domina tutti gli altri in ogni contesto. I classificatori tradizionali sono adatti ai sistemi leggeri, mentre i modelli transformer adattati eccellono laddove la precisione prevale sulla velocit\u00e0. I modelli specializzati, sebbene promettenti, devono ancora migliorare per competere con gli altri approcci. Quanto ai grandi modelli linguistici, rappresentano una soluzione flessibile, ma il loro dispiegamento dipende dai vincoli tecnici e dalle esigenze specifiche.<\/p>\n
DOI\u00a0:<\/strong> https:\/\/doi.org\/10.1007\/s10207-026-01264-8<\/a><\/p>\n Titre\u00a0:<\/strong> Comparative evaluation of machine learning methods for protecting LLMs from prompt injection attacks<\/p>\n Revue : <\/strong> International Journal of Information Security<\/p>\n \u00c9diteur : <\/strong> Springer Science and Business Media LLC<\/p>\n Auteurs : <\/strong> Nazarii Dzhaliuk; Dmytro Sabodashko; Volodymyr Khoma; Yuriy Khoma; Viktor Kolchenko; Michal Podpora<\/p>\n","protected":false},"excerpt":{"rendered":" I modelli di apprendimento automatico proteggono meglio le intelligenze artificiali dagli attacchi di prompt injection Le intelligenze artificiali moderne, in particolare i grandi modelli linguistici, sono sempre pi\u00f9 esposte ad attacchi di prompt injection. Questi attacchi permettono a attori malintenzionati di manipolare le risposte dei modelli per aggirare le protezioni e ottenere comportamenti non previsti… Continua a leggere I modelli di apprendimento automatico proteggono meglio le intelligenze artificiali dagli attacchi di prompt injection<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[6],"tags":[],"class_list":["post-21","post","type-post","status-publish","format-standard","hentry","category-disinformazione","entry"],"_links":{"self":[{"href":"https:\/\/theroboticsreview.com\/it\/wp-json\/wp\/v2\/posts\/21","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/theroboticsreview.com\/it\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/theroboticsreview.com\/it\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/theroboticsreview.com\/it\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/theroboticsreview.com\/it\/wp-json\/wp\/v2\/comments?post=21"}],"version-history":[{"count":1,"href":"https:\/\/theroboticsreview.com\/it\/wp-json\/wp\/v2\/posts\/21\/revisions"}],"predecessor-version":[{"id":22,"href":"https:\/\/theroboticsreview.com\/it\/wp-json\/wp\/v2\/posts\/21\/revisions\/22"}],"wp:attachment":[{"href":"https:\/\/theroboticsreview.com\/it\/wp-json\/wp\/v2\/media?parent=21"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/theroboticsreview.com\/it\/wp-json\/wp\/v2\/categories?post=21"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/theroboticsreview.com\/it\/wp-json\/wp\/v2\/tags?post=21"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}