Cuidado com imagens geradas por IA quando a segurança da informação estiver ameaçada

Na era do rápido desenvolvimento tecnológico, a tendência de usar inteligência artificial (IA) para criar imagens está se espalhando nas plataformas de redes sociais, atraindo a atenção de muitos usuários, especialmente jovens. Fotos criadas com IA são altamente criativas, servindo ao propósito de entretenimento, personalização de conteúdo e expressão de personalidade. No entanto, por trás desse apelo existem riscos potenciais à segurança e à proteção da informação.

Entretenimento ou gatilho potencial?

De acordo com a Polícia de Hanói , recentemente tem havido uma tendência de uso de inteligência artificial (IA) para criar imagens, atraindo a atenção de muitos usuários. Embora principalmente para fins de entretenimento, a disseminação dessas imagens apresenta muitos riscos potenciais, afetando diretamente a segurança da informação, especialmente durante o 80º aniversário da Revolução de Agosto e o Dia Nacional de 2 de Setembro do país.

Atualmente, os usuários podem acessar e criar imagens facilmente por meio de softwares de IA e usá-las como avatares, notícias e artigos em redes sociais como Zalo, Tiktok, Facebook, etc. No entanto, se os usuários não forem cuidadosos, politicamente insensíveis e não controlarem as imagens geradas pela IA, poderão usar imagens imprecisas, como imagens de um mapa do Vietnã sem informações sobre os arquipélagos de Hoang Sa e Truong Sa; imagens que não são adequadas para o povo vietnamita. O uso dessas imagens imprecisas terá um grande impacto na opinião pública no ciberespaço e pode formar uma percepção equivocada sobre questões de soberania de fronteiras, bem como sobre a história e as tradições culturais nacionais.

IA cria imagem de Ao Dai impressa com mapa do Vietnã faltando no arquipélago de Hoang Sa - Truong Sa. (Foto: Polícia da Cidade de Hanói)

Um usuário de mídia social em Hanói usou um software de IA para criar uma foto de um ao dai com um mapa do Vietnã impresso e, em seguida, publicou-a no TikTok para responder à tendência de "orgulho nacional". No entanto, a imagem criada pela IA não incluía os arquipélagos de Hoang Sa e Truong Sa. A publicação viralizou rapidamente, atraindo milhares de visualizações e compartilhamentos, mas também recebeu fortes reações da comunidade online. As autoridades intervieram, exigindo a remoção do conteúdo e alertando contra a disseminação de informações falsas relacionadas à soberania nacional.

Alerta das autoridades

De acordo com o Sr. Vu Ngoc Son, Diretor Técnico da Empresa Nacional de Tecnologia de Segurança Cibernética do Vietnã (NCS), a IA e os aplicativos baseados em IA têm se desenvolvido intensamente em diversas áreas da vida nos últimos tempos. O ChatGPT é, na verdade, um aplicativo de fácil acesso para a maioria das pessoas que não são profissionais de TI, o que rapidamente se tornou uma febre.

Em termos de tecnologia, o ChatGPT não representa um avanço em comparação com outras tecnologias baseadas em IA existentes, mas, em termos de dados, o ChatGPT tem se mostrado muito bem-sucedido quando baseado em uma enorme quantidade de dados em diversos campos, fazendo com que os usuários sintam que "sabem tudo". Esse também é o atrativo do ChatGPT até o momento.

Em termos de segurança, o ChatGPT foi criado para fornecer um serviço de perguntas e respostas, portanto, o maior risco é que o conteúdo que o ChatGPT responde aos usuários seja controlado ou "envenenado" por alguém para fazer com que o ChatGPT forneça informações falsas. Atualmente, não há evidências de que o ChatGPT possa ser atacado, pois os dados de entrada são controlados, rastreados e até mesmo rotulados por humanos por esta empresa, portanto, os riscos mencionados foram limitados. No entanto, no futuro, com a expansão contínua deste serviço e a demanda por dados de entrada adicionais aumentando drasticamente, os riscos de controle de dados exigirão que os fabricantes adotem medidas de segurança mais rigorosas.

O software de IA pode trazer muitos benefícios, incluindo a capacidade de criar imagens atraentes e criativas, mas, se usado de forma irresponsável, pode se tornar uma "faca de dois gumes". O Departamento de Segurança Cibernética e Prevenção de Crimes de Alta Tecnologia da Polícia da Cidade de Hanói recomenda que as pessoas:

1. Não crie nem use imagens do mapa do Vietnã ou imagens que sejam incorretas, violem regulamentações legais ou sejam inconsistentes com as tradições, costumes e cultura vietnamitas.

2. Compartilhe regularmente informações de alerta com parentes, amigos e a comunidade para conscientizar e prevenir conspirações e artimanhas de forças hostis. Não permita que pessoas se aproveitem de grandes eventos políticos do país para cometer atos ilegais.

3. Tenha cuidado ao instalar e usar aplicativos de IA não verificados para evitar o risco de ter seus dados pessoais coletados.

4. Tenha um senso de responsabilidade consigo mesmo e com a comunidade ao participar de atividades nas redes sociais.

Violações serão tratadas rigorosamente de acordo com as disposições da lei.

Como usuário, cada indivíduo precisa ter um claro senso de responsabilidade ao participar do ciberespaço. "Seguir tendências" não deve ser trocado por ignorância ou apoio involuntário a irregularidades. Quanto à mídia, sua tarefa não é apenas noticiar, mas também orientar a opinião pública, contribuindo para a proteção da verdade e dos valores nacionais.

Fonte: https://khoahocdoisong.vn/can-trong-voi-anh-tao-tu-ai-khi-an-ninh-thong-tin-bi-de-doa-post2149050868.html