As intelig\u00eancias artificiais modernas, especialmente os grandes modelos de linguagem, est\u00e3o cada vez mais expostas a ataques por inje\u00e7\u00e3o de prompts. Esses ataques permitem que atores mal-intencionados manipulem as respostas dos modelos para contornar as prote\u00e7\u00f5es e obter comportamentos n\u00e3o previstos por seus criadores. Essa manipula\u00e7\u00e3o pode resultar em vazamento de dados, usurpa\u00e7\u00e3o de identidade ou outras consequ\u00eancias graves, seja por inje\u00e7\u00e3o direta na solicita\u00e7\u00e3o ou por meio da explora\u00e7\u00e3o de fontes externas, como sites ou arquivos.<\/p>\n
Para combater essa amea\u00e7a, m\u00e9todos de aprendizado de m\u00e1quina foram avaliados a fim de detectar essas tentativas de manipula\u00e7\u00e3o. Quatro abordagens principais foram comparadas: classificadores tradicionais que utilizam representa\u00e7\u00f5es vetoriais dos textos, modelos transformadores ajustados para a tarefa, modelos especializados na detec\u00e7\u00e3o de inje\u00e7\u00f5es de prompts e, por fim, grandes modelos de linguagem usados como classificadores.<\/p>\n
Os classificadores tradicionais, como florestas aleat\u00f3rias ou redes neurais multicamadas, oferecem boa precis\u00e3o ao mesmo tempo em que exigem poucos recursos computacionais. Eles alcan\u00e7am desempenho not\u00e1vel, com pontua\u00e7\u00f5es que \u00e0s vezes ultrapassam 96% na detec\u00e7\u00e3o de prompts maliciosos. Sua simplicidade os torna adequados a ambientes onde os recursos s\u00e3o limitados.<\/p>\n
Os modelos transformadores ajustados, como DistilBERT, RoBERTa ou DeBERTa, destacam-se pela capacidade de detectar ataques com precis\u00e3o pr\u00f3xima a 99,6%. Esses modelos, mais complexos, analisam finamente o sentido dos textos e identificam as tentativas de manipula\u00e7\u00e3o com grande confiabilidade. Sua principal desvantagem reside no custo computacional mais elevado, o que pode limitar sua implanta\u00e7\u00e3o em sistemas que exigem respostas r\u00e1pidas.<\/p>\n
Os modelos especializados, projetados especificamente para identificar inje\u00e7\u00f5es de prompts, apresentam resultados mistos. Embora sejam otimizados para essa tarefa, sua taxa de detec\u00e7\u00e3o muitas vezes permanece baixa, com pontua\u00e7\u00f5es de revoca\u00e7\u00e3o \u00e0s vezes inferiores a 25%. Isso significa que eles permitem que um n\u00famero significativo de ataques passe, reduzindo assim sua utilidade pr\u00e1tica.<\/p>\n
Por fim, os grandes modelos de linguagem generalistas, como o gpt-5-nano, tamb\u00e9m podem ser usados para detectar esses ataques. Com uma precis\u00e3o de 84% e uma revoca\u00e7\u00e3o de 71%, eles oferecem um equil\u00edbrio interessante entre desempenho e versatilidade. Sua for\u00e7a reside na capacidade de se adaptar a diferentes tipos de solicita\u00e7\u00f5es sem exigir treinamento espec\u00edfico.<\/p>\n
Esta an\u00e1lise revela que nenhum m\u00e9todo domina todos os outros em todos os contextos. Os classificadores tradicionais s\u00e3o adequados para sistemas leves, enquanto os modelos transformadores ajustados se destacam onde a precis\u00e3o \u00e9 prioridade em rela\u00e7\u00e3o \u00e0 velocidade. Os modelos especializados, embora promissores, ainda precisam evoluir para competir com as outras abordagens. Quanto aos grandes modelos de linguagem, eles representam uma solu\u00e7\u00e3o flex\u00edvel, mas sua implanta\u00e7\u00e3o depende das restri\u00e7\u00f5es t\u00e9cnicas e das necessidades espec\u00edficas.<\/p>\n
DOI\u00a0:<\/strong> https:\/\/doi.org\/10.1007\/s10207-026-01264-8<\/a><\/p>\n Titre\u00a0:<\/strong> Comparative evaluation of machine learning methods for protecting LLMs from prompt injection attacks<\/p>\n Revue : <\/strong> International Journal of Information Security<\/p>\n \u00c9diteur : <\/strong> Springer Science and Business Media LLC<\/p>\n Auteurs : <\/strong> Nazarii Dzhaliuk; Dmytro Sabodashko; Volodymyr Khoma; Yuriy Khoma; Viktor Kolchenko; Michal Podpora<\/p>\n","protected":false},"excerpt":{"rendered":" Modelos de aprendizado de m\u00e1quina protegem melhor as intelig\u00eancias artificiais de ataques por inje\u00e7\u00e3o de prompts As intelig\u00eancias artificiais modernas, especialmente os grandes modelos de linguagem, est\u00e3o cada vez mais expostas a ataques por inje\u00e7\u00e3o de prompts. Esses ataques permitem que atores mal-intencionados manipulem as respostas dos modelos para contornar as prote\u00e7\u00f5es e obter comportamentos… Continuar lendo Modelos de aprendizado de m\u00e1quina protegem melhor as intelig\u00eancias artificiais de ataques por inje\u00e7\u00e3o de prompts<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[6],"tags":[],"class_list":["post-21","post","type-post","status-publish","format-standard","hentry","category-desinformacao","entry"],"_links":{"self":[{"href":"https:\/\/theroboticsreview.com\/pt\/wp-json\/wp\/v2\/posts\/21","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/theroboticsreview.com\/pt\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/theroboticsreview.com\/pt\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/theroboticsreview.com\/pt\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/theroboticsreview.com\/pt\/wp-json\/wp\/v2\/comments?post=21"}],"version-history":[{"count":1,"href":"https:\/\/theroboticsreview.com\/pt\/wp-json\/wp\/v2\/posts\/21\/revisions"}],"predecessor-version":[{"id":22,"href":"https:\/\/theroboticsreview.com\/pt\/wp-json\/wp\/v2\/posts\/21\/revisions\/22"}],"wp:attachment":[{"href":"https:\/\/theroboticsreview.com\/pt\/wp-json\/wp\/v2\/media?parent=21"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/theroboticsreview.com\/pt\/wp-json\/wp\/v2\/categories?post=21"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/theroboticsreview.com\/pt\/wp-json\/wp\/v2\/tags?post=21"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}