Data em Apuros: Os Riscos de Segurança Cibernética da Inteligência Artificial Generativa

Os Três Principais Riscos de Segurança com a Inteligência Artificial Generativa

Os riscos de segurança associados à inteligência artificial generativa são ameaças multifacetadas que surgem da forma como os usuários dentro e fora das organizações interagem com essas ferramentas.

Os três principais riscos de segurança são, em muitos aspectos, os princípios fundamentais da cibersegurança, mas sua evolução na era da IA pode surpreendê-lo:

• Violação de dados: Sistemas de IA generativa podem coletar, armazenar e processar grandes volumes de dados de diversas fontes, incluindo prompts de usuários. Se esses conjuntos de dados contiverem informações sensíveis, como demonstrativos financeiros não divulgados ou propriedade intelectual, as empresas se expõem a riscos de terceiros semelhantes ao armazenamento de dados em uma plataforma de compartilhamento de arquivos. Ferramentas como o ChatGPT ou Bard também podem vazar esses dados proprietários ao responder prompts de usuários fora da organização.
• Ataques de malware: A IA generativa também pode gerar tipos novos e complexos de malware que podem evitar métodos de detecção convencionais. Isso pode levar as organizações a enfrentar uma onda de novos ataques de zero-day. Sem mecanismos de defesa específicos para impedir que sejam bem-sucedidos, as equipes de TI terão dificuldade em acompanhar esses agentes maliciosos.
• Ataques de phishing: A IA generativa se destaca na criação de conteúdo falso convincente que imita conteúdo real, mas contém informações falsas ou enganosas. Esse conteúdo falso pode ser usado para enganar os usuários a revelar informações sensíveis ou realizar ações que comprometam a segurança do negócio. Os agentes maliciosos podem criar novas campanhas de phishing - com histórias, imagens e vídeos convincentes - em minutos, e as empresas provavelmente verão um aumento no volume de tentativas de phishing devido a isso.

Como prevenir os riscos de segurança da IA generativa

Os três principais riscos de segurança provenientes da IA generativa seguem todos uma linha comum: dados.

Seja o compartilhamento acidental de informações sensíveis ou esforços direcionados para roubá-las, a IA está ampliando ainda mais a necessidade de controles robustos de segurança de dados.

A mitigação dos riscos de segurança da IA generativa gira em torno de três conceitos-chave: conscientização dos funcionários, estruturas de segurança e soluções tecnológicas.

• Conscientização dos Funcionários: Educar os funcionários sobre a manipulação segura de informações sensíveis não é uma prática nova. No entanto, a introdução de novas ferramentas de IA na força de trabalho exige atenção especial para as novas ameaças à segurança de dados que a acompanham. Certifique-se de que os funcionários entendam quais informações podem e não podem ser compartilhadas com soluções baseadas em IA. Da mesma forma, conscientize as pessoas sobre o aumento em campanhas de malware e phishing que podem resultar da IA generativa.
• Estruturas de Segurança: Nos últimos anos, as empresas têm fortalecido o uso do framework Zero Trust. Ele continua sendo uma maneira eficaz de manter os dados fora das mãos daqueles que não deveriam tê-los, limitando o acesso a aplicativos críticos e impedindo ataques de malware antes que tenham a chance de ocorrer. Combinar esses aspectos com os benefícios do Secure Access Service Edge (SASE) pode dar às organizações uma maior visibilidade do uso de aplicativos de IA na rede e um controle mais sólido de seus dados em dispositivos gerenciados e não gerenciados.
• Soluções Tecnológicas: Tecnologias como Data Loss Prevention (DLP) existem há anos, permitindo que organizações impeçam que informações sensíveis sejam copiadas e coladas em chatbots. Risk-Adaptive Protection (RAP) permite que organizações automatizem a aplicação de políticas com base no comportamento do usuário, garantindo que contas comprometidas sejam impedidas de extrair dados. Essas ferramentas existentes precisam apenas de leves ajustes para atender às demandas emergentes de segurança. No entanto, é provável que as empresas se movam cada vez mais em direção à adoção de um conjunto de soluções de segurança de dados para acompanhar a face em constante mudança de violações e vazamentos de dados.

Imponha o Data Security Everywhere

É difícil imaginar um mundo onde os dados não sejam o ativo mais protegido nos negócios. À medida em que tudo relacionado a informações sensíveis evolui, também devem evoluir as políticas e proteções existentes para mantê-las seguras. Chamamos isso de Data Security Everywhere, e continuaremos a construir sobre o impulso que começamos no ano passado.

Descubra como a Forcepoint está ajudando empresas a impor políticas de Data Security Everywhere para onde os dados vão, incluindo a IA generativa.