X-Labs
Octubre 30, 2023

La mitigación de riesgos es la verdadera ventaja del primer movimiento en IA

Publicación #2 sobre perspectivas futuras de Forcepoint para el 2024John
John Holmes Chief Legal Officer
Brice Cagle

Cuando las personas piensan en la ventaja del primer movimiento de la inteligencia artificial, seguramente piensan en ChatGPT; el chatbot que impulsó la ferviente adopción de la IA generativa. Pero hay cientos de empresas pioneras que probablemente no estén en su radar, como Goldman Sachs, Verizon o Samsung.

La ventaja de ser los primeros en este movimiento no proviene de la adopción de la IA, sino de su restricción. O, mejor dicho, de adoptar un enfoque mesurado para la adopción - un enfoque que garantice la protección adecuada de la información de la empresa y los datos personales.

Cuando las masas se apresuraban a incorporar la IA, Goldman Sachs, Verizon y Samsung se apresuraron a prohibirla.De hecho, muchas empresas en algún momento han impedido que sus empleados utilicen IA generativa debido al riesgo que representa para la información sensible y confidencial.

A medida que la disponibilidad de herramientas de IA continúa creciendo y la presencia de la IA se vuelve más integrada en nuestras industrias, su adopción segura y mesurada se convertirá en un factor crítico para su éxito a largo plazo y para que las empresas se beneficien potencialmente.

En última instancia, la mitigación de riesgos dará dividendos a las empresas que se tomen el tiempo para definir, implementar y hacer cumplir las políticas de IA.

 

No se puede dar marcha atras

Una vez que los datos están en el mundo de la IA, no hay forma de recuperarlos.

La IA privada, que utiliza datos sobre los que usted tiene control total, es la ruta más segura para implementarla. Piense en BloombergGPT, pero para su negocio.

Sin embargo, crear herramientas privadas de IA es prohibitivamente costoso para muchas organizaciones, lo que hace que la gran mayoría dependa de herramientas públicas de IA como ChatGPT, Bard o cualquiera de las otras aplicaciones que pueda encontrar. Las soluciones públicas de IA interactúan con datos como el juego de mesa “Hungry Hungry Hippo”. Una vez que se le presenta la información, ingiere esos datos y se entrena a partir de ellos.

Esa data ya no te pertenece sólo a ti, la IA no devolverá sus estados financieros, memorandos internos o códigos de software, y no puede retroceder el tiempo para evitar que los empleados filtren información de identificación personal (PII) o propiedad intelectual. Por lo tanto, el objetivo de incorporar IA debe centrarse en evitar la introducción indebida de información sensible en el vasto y desconocido mundo de la IA generativa pública.

No hay duda de que el éxito será difícil. Definir la exfiltración en el contexto de la IA no es una tarea fácil, especialmente porque potencialmente abarca desde un único mensaje hasta algo tan grave como una filtración total.

Como mínimo, existen medidas de mitigación que deben implementarse cuando se utiliza IA generativa pública. Esas medidas dependerán del proveedor, pero incluirán aspectos como mejorar la seguridad a partir de diversos modelos de implementación, optar por no permitir que la herramienta aprenda del contenido o comprar ofertas premium para niveles más altos de protección.

Forcepoint 2024 Future Insights Series

 

Las políticas de seguridad de IA son esenciales para garantizar la supervivencia competitiva de las empresas.

Las políticas y acuerdos de confidencialidad son el status quo para proteger la propiedad intelectual. Ahora, estas políticas deben extenderse a las interacciones de la fuerza laboral con la IA.

De hecho, predecimos que las políticas de seguridad de la IA serán tan esenciales para defender la competitividad de una empresa como lo son hoy las políticas de confidencialidad.

La IA crea una mayor necesidad de seguridad y marco. Con la IA, el impacto de la entrada de datos en el medio ambiente puede ser exponencial, ya que la pérdida de datos puede ocurrir rápidamente y el volumen puede ser enorme

El objetivo debe ser saber exactamente qué aplicaciones utilizan los empleados y con qué datos interactúan para evitar que la IA comprometa los derechos de propiedad de su contenido y por extensión, preservar información confidencial como información de identificación personal (PII).

En Forcepoint, por ejemplo, nuestras políticas de IA se refieren principalmente al uso aceptable. Prestamos especial atención a la forma en que las tecnologías se cruzan con nuestra cadena de suministro y nuestros datos - similar a nuestro enfoque de código abierto ¬- para garantizar que su uso no genere riesgos innecesarios.

Dado que todas las áreas de negocio se verán afectadas por la IA y sus riesgos asociados, un programa exitoso de gobernanza de la IA debe:

  • Definir el uso seguro de aplicaciones y procesos de IA.
  • Garantizar inversiones de recursos multifuncionales entre unidades de negocio.
  • Mostrar dedicación para asegurar la integración y la implementación en todos los departamentos y divisiones.

 

Libere de forma segura el potencial de la IA

Establecer un marco para el uso aceptable de la IA es un primer paso importante, pero mantener una verdadera seguridad de los datos es un maratón.

Si le preocupa la seguridad de su propiedad intelectual e información personal con la IA, querrá asegurarse de poder hacer cumplir las políticas de IA en toda su organización. Al utilizar Forcepoint Data Loss Prevention y Forcepoint ONE, las organizaciones pueden redactar políticas una vez y extenderlas en toda la organización, garantizando que la propiedad intelectual permanezca segura dondequiera que vaya.

John Holmes

Chief Legal Officer

John D. Holmes is Chief Legal Officer and Corporate Secretary at Forcepoint. As Chief Legal Officer, John leads the company’s legal and regulatory affairs, intellectual property creation and protection, litigation, M&A, ethics, and compliance...

Leer más artículos de John Holmes

Brice Cagle

Brice Cagle serves as Sr. Counsel and Data Protection Officer for G2CI.

Leer más artículos de Brice Cagle

Acerca de Forcepoint

Forcepoint es la compañía líder en ciberseguridad de protección de datos y usuarios, encargada de proteger a las organizaciones a la vez que impulsa la transformación digital y el crecimiento. Nuestras soluciones se adaptan en tiempo real a la manera en que las personas interactúan con los datos, y proporcionan un acceso seguro a la vez que permiten que los empleados generen valor.