Junho 26, 2023

Defesa contra ameaças cibernéticas orientadas por IA generativa

Parte quatro de uma série em cinco partes escrita pelo ChatGPT
ChatGPT

Já sabemos que os hackers estão usando inteligência artificial. Muitas empresas estão proibindo o uso do ChatGPT (por agora). Nós acreditamos que a IA generativa pode desbloquear a eficiência e a criatividade de seus funcionários, superando as formas como as ferramentas como o computador pessoal, a Internet e os dispositivos móveis já ampliam. A Forcepoint tem as ferramentas que capacitarão os seus funcionários aproveitar o poder de ferramentas como o ChatGPT, mantendo os dados críticos de sua organização seguros e protegidos. 

 

Nesta série de cinco partes com o ChatGPT, perguntamos ao ChatGPT sobre IA generativa e seu impacto potencial na segurança cibernética. Na parte quatro, pedimos dicas de defesa contra ameaças cibernéticas geradas por IA.

Como as empresas podem mitigar cada um desses ataques/ameaças?

Para mitigar as ameaças criadas por IA generativa, as empresas podem adotar uma variedade de estratégias e práticas recomendadas para cada tipo de ataque. Estas algumas recomendações para cada tipo de ataque/ameaça mencionado anteriormente:

1. Phishing e spear-phishing avançados (IA generativa baseada em texto):

  • Implementar autenticação multifator (MFA) para reduzir o risco de acesso não autorizado.
  • Educar os funcionários sobre como reconhecer e-mails de phishing e a importância de verificar a origem antes de realizar qualquer ação.
  • Usar filtragem de e-mail e ferramentas de detecção de spam para bloquear e-mails suspeitos.
  • Criar protocolos de comunicação claros para compartilhamento de informações confidenciais ou transações financeiras.

2. Desinformação e danos à reputação (IA generativa baseada em vídeo):

  • Monitorar redes sociais, fóruns e fontes de notícias em busca de qualquer conteúdo potencialmente prejudicial ou enganoso relacionado ao negócio.
  • Usar ferramentas de análise de vídeo orientadas por IA para detectar vídeos deepfake.
  • Desenvolver uma estratégia de resposta rápida para lidar com a desinformação e comunicar os fatos às partes interessadas de forma proativa.
  • Promover a transparência e a confiança de clientes, funcionários e público, para minimizar o impacto de campanhas de desinformação.

3. Phishing de voz (vishing) e personificação (IA generativa baseada em áudio):

  • Informar os funcionários sobre os riscos potenciais do phishing de voz e como verificar a identidade do chamador.
  • Implementar tecnologias de autenticação de chamadas e canais de comunicação seguros.
  • Criar protocolos claros para compartilhar informações confidenciais ou fazer transações financeiras por telefone.

4. Identidades falsas para engenharia social (IA generativa baseada em imagens):

  • Treinar os funcionários para reconhecer e denunciar perfis e interações suspeitas em redes sociais.
  • Monitorar as redes sociais em busca de perfis falsos que se passam por funcionários ou executivos da empresa.
  • Limitar as informações publicamente disponíveis sobre funcionários, pois essas informações podem ser exploradas por atacantes para criar identidades falsas.

Para ataques combinados ou multimodais:

  1. Desenvolver uma estratégia abrangente de segurança cibernética que aborde os riscos associados a vários tipos de ataques de IA generativa.
  2. Investir em soluções de segurança orientadas por IA que possam detectar e combater ameaças geradas por IA, como detecção de deepfakes ou análise de e-mail de phishing avançado.
  3. Incentivar uma forte cultura de segurança dentro da organização, enfatizando a importância da vigilância, comunicação e denúncia de qualquer atividade suspeita.
  4. Revisar e atualizar periodicamente as políticas de segurança, os procedimentos e o treinamento de funcionários para lidar com as ameaças emergentes e tecnologias em evolução.

Ao implementar essas medidas, as empresas podem se proteger melhor contra os riscos associados à IA generativa e garantir o uso responsável e seguro das tecnologias de IA na organização.

 

 

ChatGPT

A equipe da OpenAI treinou um modelo chamado ChatGPT que interage de forma conversacional. O formato de diálogo permite que o ChatGPT responda a perguntas de acompanhamento, admita seus erros, desafie erros...

Leia mais artigos do ChatGPT

Sobre a Forcepoint

A Forcepoint é líder em cibersegurança para proteção de usuários e dados, com a missão de proteger as organizações ao impulsionar o crescimento e a transformação digital. Nossas soluções adaptam-se em tempo real à forma como as pessoas interagem com dados, fornecendo acesso seguro e habilitando os funcionários a criar valor.