Informe de Gartner®: 4 formas en que la IA generativa afectará a los CISOs y sus equipos

Gartner explica cómo podemos controlar el consumo de IA generativa

Si bien la capacitación de los usuarios y las políticas de uso aceptable son componentes críticos de una estrategia de seguridad sólida para trabajar con IA generativa, confiar en la diligencia de los empleados individuales no es un enfoque viable. Tiene más sentido aplicar soluciones de seguridad para evitar la filtración de datos causada por el uso descuidado de aplicaciones de IA generativa por parte de los empleados. Sobre este tema, Gartner enumera "cinco tácticas para obtener un mejor control del consumo de GenAI", que son: definir una entidad de gobernanza y un flujo de trabajo, monitorear y bloquear, comunicar rápidamente una política breve de uso aceptable, investigar la ingeniería rápida y las integraciones de API, y favorecer la privacidad de alojamiento.

Gartner sobre el bloqueo de dominios y aplicaciones conocidos para la IA generativa

Los trabajadores siempre querrán utilizar herramientas que mejoren la productividad y prohibirlas puede alentar a los empleados a utilizar la IA en la sombra en dispositivos personales no administrados. Aquí Gartner vuelve a hablar del tema:

“Los líderes de seguridad deben reconocer que bloquear dominios y aplicaciones conocidas no es una opción sostenible ni integral. También provocará “omisiones de usuarios,” donde los empleados compartirían datos corporativos con dispositivos personales no monitoreados para tener acceso a las herramientas. Muchas organizaciones ya pasaron del bloqueo a una página de "aprobación" con un enlace a la política de la organización y un formulario para enviar una solicitud de acceso.”

En lugar de eliminar el acceso a aplicaciones de IA generativa como ChatGPT para todos los empleados, Forcepoint ofrece poderosas capacidades de Prevención de pérdida de datos (DLP) entregadas a través de la plataforma Forcepoint ONE que permiten a las organizaciones aprovechar los beneficios de la IA generativa, sin perder el control de los datos confidenciales.

Forcepoint ONE maneja la parte de acceso, además de monitorear el tráfico web entre los usuarios y esas aplicaciones generativas, incluidas herramientas de imágenes como DALL-E. La plataforma Forcepoint ONE basada en hiperescaladores también proporciona aplicación de políticas centralizada, lo que permite a los equipos de seguridad seleccionar el acceso seguro a miles de aplicaciones generativas de IA.

Los CISOs pueden utilizar una única política para gestionar la seguridad de los datos en todos los canales, y Forcepoint ONE ofrece informes unificados con una vista única de la seguridad de los datos empresariales. Esto simplifica el establecimiento y aplicación de políticas para el uso de IA generativa que maximiza el potencial de la tecnología y mantiene contentos a los empleados sin exponer a las organizaciones al riesgo de fuga de datos.

###

Fuente: Informe de Gartner®: 4 formas en que la IA generativa afectará a los CISOs y sus equipos, por Jeremy D'Hoinne, Avivah Litan, Peter Firstbrook, 29 de junio 2023

GARTNER es una marca registrada y una marca de servicio de Gartner, Inc. y/o sus filiales en los EE. UU. e internacionalmente y se utiliza en este documento con autorización. Todos los derechos reservados.

Gartner no respalda a ningún proveedor, producto o servicio descrito en sus publicaciones de investigación y no recomienda a los usuarios de tecnología que seleccionen solo aquellos proveedores con las calificaciones más altas u otra designación. Las publicaciones de investigación de Gartner consisten en opiniones de la organización de investigación de Gartner y no deben interpretarse como declaraciones de hechos. Gartner renuncia a todas las garantías, expresas o implícitas, con respecto a esta investigación, incluidas las garantías de comerciabilidad o idoneidad para un propósito particular.