A Check Point Software Technologies alerta para o aumento dos riscos associados à adoção de chatbots baseados em inteligência artificial generativa nas empresas. Segundo a empresa de cibersegurança, estas soluções estão a deixar de ser apenas interfaces de apoio e começam a funcionar como pontos de acesso a dados empresariais, aplicações críticas e fluxos operacionais.
Atualmente, os chatbots GenAI estão presentes em portais de apoio ao cliente, assistentes internos, plataformas de e-commerce, sistemas de vendas e ferramentas de produtividade empresarial. Ao contrário das aplicações web tradicionais, estas soluções aceitam linguagem natural aberta, criando uma superfície de ataque mais difícil de controlar e monitorizar.
Segurança aplicacional muda de paradigma
Segundo a Check Point, esta evolução altera o paradigma da segurança aplicacional. Se antes o foco estava sobretudo em bloquear pedidos maliciosos dirigidos às aplicações, agora torna-se também necessário controlar aquilo que os modelos de IA devolvem aos utilizadores.
O objetivo passa por evitar respostas perigosas, fuga de informação sensível ou conteúdos que violem políticas internas e regulamentação. “A adoção de GenAI nas empresas está a acelerar rapidamente, mas muitas organizações ainda olham para os chatbots como simples interfaces de apoio, quando na realidade estes sistemas já funcionam como portas de entrada para aplicações críticas, dados empresariais e fluxos operacionais. Um incidente relacionado com prompts maliciosos ou fuga de dados pode rapidamente transformar-se num problema de segurança, reputação e conformidade”, afirma Rui Duro, country manager da Check Point Software para Portugal.
Prompt injection entre os principais riscos
Entre os principais riscos identificados estão os ataques de prompt injection, nos quais utilizadores maliciosos tentam manipular o comportamento do modelo através de instruções ocultas ou contextos adulterados.
Estes ataques podem surgir diretamente nas conversas ou ser introduzidos indiretamente através de documentos, ficheiros ou conteúdos externos utilizados pelo chatbot como contexto.
Outro risco crítico é a fuga de informação sensível. Como muitos chatbots têm acesso a conhecimento interno, documentos empresariais, dados financeiros ou informação pessoal, um pedido cuidadosamente construído pode levar à exposição inadvertida de conteúdos confidenciais.
A Check Point alerta que estes riscos podem incluir dados pessoais, propriedade intelectual, credenciais, instruções internas e informação estratégica.
Respostas inadequadas podem gerar impacto reputacional
A empresa destaca ainda os riscos relacionados com respostas inadequadas, ofensivas ou não conformes geradas pelos modelos de IA, sobretudo em ambientes de contacto com clientes.
Nestes cenários, o impacto reputacional pode ser imediato, comprometendo a confiança dos utilizadores e expondo as organizações a problemas legais e de compliance.
Para responder a estes desafios, a Check Point reforçou as capacidades do seu Web Application Firewall (WAF), alargando a proteção tradicional de aplicações web e API ao contexto conversacional da inteligência artificial generativa. A solução combina mecanismos de prevenção de prompt injection, controlo de conteúdos, prevenção de fuga de dados e monitorização de padrões de abuso.
A arquitetura de segurança assenta em duas camadas complementares de machine learning. A primeira utiliza modelos supervisionados treinados com milhões de prompts e padrões de ataque, reforçados com mais de 85 milhões de tentativas recolhidas a partir do dataset do projeto Gandalf da Lakera. A segunda camada acrescenta análise contextual e semântica, adaptando a proteção ao comportamento esperado de cada chatbot e reduzindo falsos positivos.
Baixa latência e cobertura multilingue
A Check Point sublinha também a importância da baixa latência e da cobertura multilingue para garantir uma experiência segura sem comprometer a utilização das plataformas.
Segundo a empresa, o seu WAF oferece proteção com impacto inferior a 50 milissegundos e suporta mais de 100 línguas e sistemas de escrita, uma capacidade considerada crítica para organizações globais e ambientes multi-idioma.
À medida que os chatbots de IA generativa evoluem de experiências piloto para aplicações empresariais críticas, a Check Point defende que estas plataformas devem passar a ser tratadas como interfaces de elevado valor estratégico e não como funcionalidades secundárias.
