X-Labs
Novembro 27, 2023

As políticas de IA evoluirão rapidamente para acompanhar o mercado.

Post #5 dos Insights do Futuro 2024 da Forcepoint
Manny Rivelo

Todos sabemos que implementar IA traz consigo seu próprio conjunto de riscos. No entanto, os benefícios que ela proporciona em termos de ganhos de produtividade, eficiências de dados e análises, e vantagens competitivas são impossíveis de ignorar. Como sociedade e indústria, estamos melhor aprendendo a abraçar a tecnologia com segurança para mover rapidamente ferramentas de IA Generativa das sombras para as operações diárias sob controle de segurança corporativa. Precisamos de estratégias para minimizar riscos enquanto otimizamos os benefícios.

Na Forcepoint, recomendamos que organizações de todos os tamanhos adotem uma abordagem de Zero Trust "Data-first" ao usar ferramentas de IA. À medida que organizações de todos os tamanhos lidam com a implementação segura e eficaz da IA, elas precisam criar políticas corporativas e de segurança de IA que protejam funcionários e dados da empresa em um número crescente de casos de uso, tudo em um cenário de IA em rápida mudança que não mostra sinais de desaceleração.

 

As políticas precisam abranger cenários de construção e aquisição

Muitos negócios começam decidindo quais ferramentas de IA usar e, em seguida, elaboram políticas corporativas que fornecem diretrizes de uso para os funcionários. Nos casos em que as organizações utilizam GPTs existentes e ferramentas de IA proprietárias, por exemplo, a maioria está criando políticas de IA que governam o uso dessas ferramentas, especialmente no que se refere à proteção de dados da empresa. Além das políticas corporativas, tecnologias de segurança na web, como o Forcepoint ONE SWG, podem limitar e controlar o acesso a um grupo selecionado de funcionários. E nossa solução de segurança de dados em todos os lugares permite que as empresas criem e apliquem políticas de segurança projetadas para proteger os dados proprietários compartilhados dentro das ferramentas de IA.

Empresas que optam por desenvolver seus próprios GPTs terão ainda mais opções a considerar. Muitas vezes, suas políticas corporativas e de segurança existentes abrangerão o uso de dados quando os GPTs personalizados são implementados internamente. Mas e se decidirem oferecer esse GPT personalizado para compra pelos clientes?

Grandes organizações empresariais podem ir além, seja ajustando seus próprios LLMs ou construindo os seus. A recente parceria da Dell com a Hugging Face facilitará para grandes organizações tanto a construção quanto a implementação de hardware de servidor dedicado projetado para lidar com as cargas intensas necessárias para treinar LLMs. Nesses casos, as grandes organizações precisarão de políticas corporativas expandidas de IA que forneçam diretrizes relacionadas ao uso dos dados internos usados para treinar ou ajustar esses LLMs personalizados. E políticas de segurança projetadas para proteger dados proprietários da empresa provavelmente precisarão ser ampliadas também.

Forcepoint's 2024 Future Insights blog series

 

Em menos de um ano desde a explosão da introdução da GenAI, a trajetória da IA tem sido emocionante de se presenciar. Em pouco tempo, as organizações passaram de considerar se deveriam ou não habilitar ferramentas de IA internamente para algumas considerando implementar GPTs personalizados ou até ajustar ou criar seus próprios LLMs. Há apenas alguns meses, algumas dessas opções pareceriam improváveis. Agora, são opções viáveis.

Em 2024, as inovações relacionadas à IA criarão novas possibilidades que nem estamos considerando no momento. Prosseguindo, organizações de todos os tamanhos precisarão criar e expandir políticas corporativas de IA que governem como os funcionários podem interagir com segurança com ela. E as políticas de segurança de IA precisarão se estender além de ferramentas de IA comerciais para abranger também GPTs e LLMs desenvolvidos internamente. Na Forcepoint, temos soluções de segurança na web e de dados, todas projetadas para tornar a adoção de tecnologias emergentes, como o GenAI, à prova do futuro, independentemente de quão rapidamente o cenário tecnológico evolua.

Manny Rivelo

Manny Rivelo is the Chief Executive Officer (CEO) at Forcepoint. As Forcepoint CEO, Rivelo drives the company’s strategy to accelerate enterprise and government agency adoption of a modern approach to security that embraces the emerging Secure Access Service Edge (SASE) architecture. According...

Leia mais artigos do Manny Rivelo

Sobre a Forcepoint

A Forcepoint é líder em cibersegurança para proteção de usuários e dados, com a missão de proteger as organizações ao impulsionar o crescimento e a transformação digital. Nossas soluções adaptam-se em tempo real à forma como as pessoas interagem com dados, fornecendo acesso seguro e habilitando os funcionários a criar valor.