X-Labs
Outubro 30, 2023

A Mitigação de Riscos é a Verdadeira Vantagem do Primeiro Movimento na IA

Post #2 dos Insights do Futuro 2024 da Forcepoint
John Holmes Chief Legal Officer
Brice Cagle

Quando as pessoas pensam na vantagem do primeiro movimento da inteligência artificial, provavelmente são atraídas pelo ChatGPT, o chatbot que iniciou famosamente a fervorosa adoção da IA generativa. Mas há centenas de empresas pioneiras que provavelmente não estão no seu radar, como Goldman Sachs, Verizon ou Samsung.

A vantagem do primeiro movimento delas não vem da adoção da IA, mas sim da sua restrição. Ou, de forma mais apropriada, de uma abordagem medida para a adoção - uma que garante a proteção apropriada das informações da empresa e dos dados pessoais.

Quando as massas estavam correndo para incorporar a IA, Goldman Sachs, Verizon e Samsung foram rápidas em proibi-la. Na verdade, muitas empresas, em algum momento, proibiram seus funcionários de usar IA generativa devido ao risco que ela representa para informações sensíveis e confidenciais.

À medida que a disponibilidade de ferramentas de IA continua a crescer e a presença da IA se torna mais incorporada em nossas indústrias, a adoção segura e medida dela se tornará um fator crítico para o seu sucesso a longo prazo e para as empresas que podem se beneficiar.

Em última análise, a mitigação de riscos renderá dividendos para as empresas que dedicarem tempo para definir, implementar e fazer cumprir políticas de IA.

 

Você não pode colocar o gênio de volta na garrafa.

Uma vez que os dados estão no mundo da IA, não há como recuperá-los.

A IA Privada, que utiliza dados que você mantém sob controle total, é a rota mais segura para implementá-la. Pense no BloombergGPT, mas para o seu negócio.

No entanto, construir ferramentas de IA privada é proibitivamente caro para muitas organizações, deixando a grande maioria dependente de ferramentas de IA públicas, como o ChatGPT, Bard ou qualquer outra aplicação que você possa encontrar. E as soluções de IA pública interagem com os dados como o jogo de tabuleiro "Hungry Hungry Hippo". Uma vez que a informação é introduzida, ela a absorve e se treina a partir dela.

Esses dados não pertencem mais exclusivamente a você. A IA não devolverá suas demonstrações financeiras, memorandos internos ou código de software, e você não pode voltar atrás no tempo para evitar que os funcionários vazem informações pessoalmente identificáveis (PI) ou propriedade intelectual. Por isso, o objetivo de incorporar a IA deve se concentrar em impedir a introdução inadequada de informações sensíveis no vasto mundo desconhecido da IA generativa pública.

Não há dúvida de que o sucesso será difícil. Definir a exfiltração no contexto da IA não é tarefa fácil, especialmente porque isso potencialmente abrange desde um único comando até algo tão grave quanto uma violação completa.

No mínimo, existem medidas de mitigação que devem ser implementadas ao usar a IA generativa pública. Essas medidas dependerão do fornecedor, mas incluem aspectos como a melhoria da segurança em diferentes modelos de implantação, a opção de desativar a capacidade da ferramenta de aprender com o conteúdo ou a aquisição de ofertas premium para níveis mais elevados de proteção.

Forcepoint 2024 Future Insights Series

 

As políticas de segurança de IA são essenciais para garantir a sobrevivência competitiva das empresa

Políticas e acordos de confidencialidade são o status quo para proteger a propriedade intelectual. Agora, essas políticas devem se estender às interações da força de trabalho com a IA.

De fato, prevemos que as políticas de segurança de IA se tornarão tão essenciais para defender a competitividade de um negócio quanto as políticas de confidencialidade são hoje.

A IA cria uma necessidade aprimorada de segurança e estrutura. Com a IA, o impacto da entrada de dados no ambiente pode ser exponencial, pois a perda de dados pode ocorrer rapidamente e o volume pode ser massivo.

O objetivo deve ser saber exatamente quais aplicativos os funcionários estão usando e com quais dados estão interagindo para evitar que a IA comprometa os direitos de propriedade do seu conteúdo. E, por extensão, preservar informações sensíveis como informações de identificação pessoal (PI).

Na Forcepoint, por exemplo, nossas políticas de IA estão principalmente preocupadas com o uso aceitável. Damos atenção especial à forma como as tecnologias se intersectam com nossa cadeia de suprimentos e dados, semelhante à nossa abordagem de código aberto, para garantir que o uso não convide riscos desnecessários.

Uma vez que todas as áreas de negócios serão impactadas pela IA e seus riscos associados, um programa de governança de IA bem-sucedido precisa de:

  • Definir o uso seguro de aplicações e processos que usam IA
  • Assegurar investimento de recursos multifuncionais entre as unidades do negócio
  • Mostrar dedicação para proteger a integração e implantação pelos departamentos e divisões

 

Desbloquear com segurança o potencial da IA

Estabelecer um quadro para o uso aceitável da IA é um importante primeiro passo, mas manter a verdadeira segurança de dados é uma maratona.

Se você tem preocupações com a segurança de sua propriedade intelectual e informações pessoais com a IA, desejará garantir que possa aplicar políticas de IA em toda a organização. Usando a Prevenção de Perda de Dados da Forcepoint e o Forcepoint ONE, as organizações podem escrever políticas uma vez e estendê-las por toda a organização, garantindo que a propriedade intelectual permaneça segura em qualquer lugar que ela vá.

John Holmes

Chief Legal Officer

John D. Holmes is Chief Legal Officer and Corporate Secretary at Forcepoint. As Chief Legal Officer, John leads the company’s legal and regulatory affairs, intellectual property creation and protection, litigation, M&A, ethics, and compliance...

Leia mais artigos do John Holmes

Brice Cagle

Brice Cagle serves as Sr. Counsel and Data Protection Officer for G2CI.

Leia mais artigos do Brice Cagle

Sobre a Forcepoint

A Forcepoint é líder em cibersegurança para proteção de usuários e dados, com a missão de proteger as organizações ao impulsionar o crescimento e a transformação digital. Nossas soluções adaptam-se em tempo real à forma como as pessoas interagem com dados, fornecendo acesso seguro e habilitando os funcionários a criar valor.