X-Labs
Noviembre 27, 2023

Las políticas de IA evolucionarán rápidamente para mantenerse al día con el mercado.

Publicación #5 sobre perspectivas futuras de Forcepoint para el 2024
Manny Rivelo

Todos sabemos que la implementación de la IA conlleva sus propios riesgos. Sin embargo, es imposible ignorar los beneficios que proporciona en términos de aumento de productividad, eficiencia de datos y análisis y ventajas competitivas. Como sociedad e industria, lo mejor es que aprendamos a adoptar la tecnología de forma segura para trasladar rápidamente las herramientas de IA generativa de las sombras a las operaciones diarias bajo el control de seguridad corporativa. Necesitamos estrategias para minimizar los riesgos y al mismo tiempo optimizar los beneficios.

En Forcepoint, recomendamos que las todas las organizaciones adopten un enfoque de Zero Trust “Data-first”  cuando utilicen herramientas de IA. A medida que las organizaciones de todos los tamaños luchan por implementar la IA de forma segura y eficaz, necesitan crear políticas de seguridad corporativas y de IA que protejan a los empleados y los datos de la empresa en un número de casos de uso cada vez más grade- todo esto en un panorama de IA que cambia rápidamente y que no muestra signos de desaceleración.

 

Las políticas deben cubrir escenarios de construcción y adquisición

Muchas empresas comienzan por decidir qué herramientas de inteligencia artificial utilizar y luego redactan políticas corporativas que brindan pautas de uso para los empleados. En aquellos casos en los que las organizaciones aprovechan las GPT existentes y las herramientas patentadas de IA, por ejemplo, la mayoría está creando políticas de IA que rigen el uso de estas herramientas, especialmente en lo que se refiere a la protección de los datos de la empresa. Además de las políticas corporativas, las tecnologías de seguridad web como Forcepoint ONE SWG pueden limitar y controlar el acceso a un grupo selecto de empleados. Nuestra solución Data Security Everywhere permite a las empresas crear y hacer cumplir políticas de seguridad diseñadas para proteger los datos propietarios compartidos dentro de las herramientas de IA.

Las empresas que opten por desarrollar sus propios GPT tendrán aún más opciones que considerar. A menudo, sus políticas corporativas y de seguridad existentes cubrirán el uso de datos cuando se implementen internamente GPT personalizados. Pero ¿qué pasa si deciden ofrecer este GPT personalizado para que los clientes lo compren?

Las grandes organizaciones empresariales pueden ir más allá, ya sea modificando sus propios LLM o creando los suyos. La reciente asociación de Dell con Hugging Face facilitará a las grandes organizaciones la creación e implementación de hardware de servidor diseñado dedicado para manejar las cargas intensas necesarias para capacitar a los LLM. En estos casos, las grandes organizaciones necesitarán políticas corporativas de IA ampliadas que proporcionen pautas relacionadas con el uso de datos internos utilizados para capacitar o ajustar estos LLM personalizados. Es probable que también sea necesario ampliar las políticas de seguridad diseñadas para proteger los datos de propiedad de la empresa. 

Forcepoint's 2024 Future Insights blog series

 

Hace menos de un año desde la explosión de la introducción de IA generativa; ha sido emocionante presenciar la trayectoria de la IA. En poco tiempo, las organizaciones han pasado de considerar si habilitar o no herramientas de inteligencia artificial internamente a considerar implementar GPT personalizados o incluso modificar o crear sus propios LLM. Hace apenas unos meses, algunas de estas opciones habrían parecido poco probables, pero ahora son opciones viables.

En el 2024, las innovaciones relacionadas con la IA crearán nuevas posibilidades que ni siquiera estamos considerando en este momento En el futuro, las organizaciones de todos los tamaños necesitarán crear y ampliar políticas corporativas de IA que regulen cómo los empleados pueden interactuar con ella de forma segura. Las políticas de seguridad de IA deberán ir más allá de las herramientas comerciales de IA para abarcar también los GPT y LLM locales. En Forcepoint, contamos con soluciones de seguridad web y de datos, todas diseñadas para preparar la adopción de tecnologías emergentes como GenAI en el futuro, sin importar qué tan rápido evolucione el panorama tecnológico.

Manny Rivelo

Manny Rivelo is the Chief Executive Officer (CEO) at Forcepoint. As Forcepoint CEO, Rivelo drives the company’s strategy to accelerate enterprise and government agency adoption of a modern approach to security that embraces the emerging Secure Access Service Edge (SASE) architecture. According...

Leer más artículos de Manny Rivelo

About Forcepoint

Forcepoint is the leading user and data protection cybersecurity company, entrusted to safeguard organizations while driving digital transformation and growth. Our solutions adapt in real-time to how people interact with data, providing secure access while enabling employees to create value.