Na quarta a coisa muda
A expansão das ferramentas de inteligência artificial generativa transformou a rotina profissional e pessoal. No entanto, a adoção rápida dessas tecnologias exige atenção redobrada com a privacidade e a proteção de dados.
Diretrizes de órgãos internacionais, como a Agência de Cibersegurança e Segurança de Infraestrutura dos EUA (CISA) e o Instituto Nacional de Padrões e Tecnologia (NIST), alertam para vulnerabilidades frequentes na interação com sistemas inteligentes.
1. Nunca insira credenciais, senhas ou dados financeiros nos prompts
O envio de informações confidenciais ou segredos comerciais para plataformas públicas representa um risco direto de vazamento. Modelos públicos de linguagem utilizam as interações dos usuários para o contínuo aprendizado do sistema.
Se um dado sensível entra na plataforma, a informação pode reaparecer nas respostas fornecidas a terceiros. A CISA recomenda a classificação prévia dos dados antes de qualquer envio para ambientes virtuais.
2. Nunca execute códigos gerados por IA sem revisão de segurança
Assistentes virtuais facilitam a escrita de programas, mas também geram linhas de código com falhas estruturais ou pacotes inexistentes. Atacantes exploram essa brecha ao criar bibliotecas maliciosas com os mesmos nomes sugeridos por engano pela IA.
A execução direta desses comandos sem auditoria expõe o sistema a invasões e sequestro de informações. Especialistas em cibersegurança orientam a verificação manual rigorosa de todas as instruções fornecidas.
3. Nunca instale extensões e plugins de fontes não verificadas
O surgimento constante de novas ferramentas gera o fenômeno da Shadow IT, onde softwares não autorizados entram na rede corporativa. Golpistas criam extensões falsas de navegador com promessas de integração com IA para capturar cookies e credenciais.
A CISA alerta para a importância do uso exclusivo de infraestruturas confiáveis e com controle de acesso rígido. A navegação segura exige o download de complementos apenas em lojas e distribuidores oficiais.
4. Nunca desconsidere o risco de ataques por injeção de prompt
A chamada injeção de prompt (Prompt Injection) ocorre quando instruções maliciosas escondidas em textos, arquivos ou sites manipulam o comportamento do modelo. Esse ataque faz a IA ignorar suas travas de segurança nativas.
Se a ferramenta possui acesso a e-mails ou bancos de dados, o ataque pode autorizar ações indevidas sem o conhecimento do usuário. O NIST destaca a necessidade de isolar os componentes da IA para evitar o comprometimento do sistema.
5. Nunca aceite respostas automatizadas sem checar a veracidade das fontes
Sistemas de inteligência artificial sofrem com a alucinação de dados e o envenenamento de informações (Data Poisoning).
Relatórios da DPOnet e diretrizes do NIST recomendam a validação cruzada das informações em fontes oficiais. A checagem de fatos garante a integridade e a conformidade legal dos conteúdos produzidos.