Hackers podem obter informações confidenciais da empresa 'conversando' com um chatbot de IA

De acordo com especialistas em tecnologia, usando uma série de avisos sofisticados, os hackers podem penetrar no banco de dados "confidencial" de uma empresa sem serem detectados.

Visão geral do evento OpenInfra & Cloud Native Day Vietnam 2025 com o tema "A era da inovação digital do Vietnã" - Foto: CHI HIEU

A Inteligência Artificial (IA) traz muitos valores, especialmente agora integrada por muitas empresas para atender usuários finais, como funcionários da empresa, clientes... A partir daqui, os sistemas de chatbot integrados à IA podem se tornar uma "porta estreita" para hackers atacarem e roubarem informações em sistemas de armazenamento de dados.

"Atualmente, existem muitos métodos de ataque aos modelos de IA, o mais comum dos quais é o 'envenenamento de conteúdo', que parece ser 'invisível' para os sistemas tradicionais de proteção de informações", alertou o Sr. Dao Viet Hung, diretor nacional da Akamai Technologies Vietnã, no evento OpenInfra & Cloud Native Day Vietnã 2025, realizado em 26 de julho em Hanói .

O evento foi organizado pela Associação de Internet do Vietnã (VIA) em coordenação com a Comunidade de Infraestrutura Aberta do Vietnã (VietOpenInfra) e o Clube de Computação em Nuvem e Data Center do Vietnã (VNCDC), com o apoio do Ministério da Ciência e Tecnologia .

90% das empresas usam plataformas ou softwares abertos

Em seu discurso de abertura, o Sr. Vu The Binh — Vice-presidente e Secretário Geral da Associação de Internet do Vietnã — enfatizou a importância da infraestrutura aberta e do código-fonte aberto no processo nacional de transformação digital.

No contexto de rápidas mudanças na tecnologia global, o Sr. Binh disse que a infraestrutura aberta continua a se desenvolver como base para a inovação, já que mais de 90% das empresas estão usando plataformas ou softwares abertos de diversas formas.

De acordo com uma pesquisa da Red Hat (2024), 82% dos líderes de tecnologia consideram plataformas e softwares abertos essenciais para impulsionar a transformação digital e acelerar a inovação. Plataformas como Kubernetes, OpenStack, Linux, Ceph e OpenTelemetry desempenham um papel cada vez mais importante na operação de sistemas de IA, IoT, 5G/6G e Cloud Native.

"Há 10 anos, a nuvem podia ser confundida com nuvens no céu, e código aberto soava como um 'segredo de artes marciais'. Mas hoje, estamos aqui, conectando-nos com a comunidade global de Infraestrutura Aberta em mais de 180 países, transformando juntos linhas de código na força motriz da inovação", compartilhou o Sr. Vu The Binh.

Chatbot de IA - "porta estreita" para hackers penetrarem no sistema

Atualmente, muitas empresas estão aplicando fortemente a eficácia de plataformas abertas e responsivas que integram sistemas como chatbots de IA para ajudar a melhorar o desempenho do trabalho e aprimorar a experiência do usuário.

Também daqui, muitos métodos de ataque a modelos de IA, incluindo ataques de "envenenamento de conteúdo", alertou o Sr. Dao Viet Hung, diretor nacional da Akamai Technologies Vietnã.

Ele comentou que as empresas vietnamitas, ao implantar IA, ainda não sabem muito sobre essa forma de ataque.

Dessa forma, os malfeitores usam o método de perguntar e ensinar continuamente ao modelo de IA informações falsas, causando "envenenamento" de informações.

Se as informações no sistema de nuvem forem "infectadas" e não forem detectadas e continuarem a ser usadas, ele fornecerá informações incorretas ou usará essa vulnerabilidade para entrar no banco de dados com a finalidade de obter informações.

Sr. Dao Viet Hung, diretor nacional da Akamai Technologies Vietnã - Foto: CHI HIEU

O Sr. Dao Viet Hung citou uma história rara, quando o sistema de chatbot de vendas on-line de uma montadora foi convencido a vender um carro novo por apenas US$ 1.

O motivo é que, durante o processo de troca e negociação com o chatbot, esse cliente encontrou uma maneira de "entrar sorrateiramente" no banco de dados e convencer o chatbot a concordar com a solicitação acima.

Outro exemplo é quando hackers obtiveram com sucesso todos os documentos confidenciais e organogramas de uma empresa apenas compondo perguntas apropriadas e enviando-as ao chatbot interno de IA.

Diante desse risco, o Sr. Dao Viet Hung compartilhou a solução de segurança de IA para que a própria IA possa proteger a IA, esta é uma forma usada por muitas grandes empresas no mundo .

Com esse método de segurança, os dados armazenados integram múltiplas camadas de proteção, dificultando sua "infecção".

O sistema de segurança de IA pode detectar quais informações estão limpas e quais informações têm riscos potenciais de ataque, a partir das quais haverá um plano de tratamento rápido e adequado...

Voltar ao tópico

PIEDADE

Fonte: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm