Enero 5, 2024

Datos en apuros: los riesgos de ciberseguridad de la IA generativa

Forcepoint

La Inteligencia Artificial Generativa (IA) es una tecnología poderosa que puede crear contenido realista e innovador, como imágenes, texto, audio y video. Sus casos de uso abarcan empresas e incluyen mejora de la creatividad y de productividad, en general, facilitan las tareas de todos.

 

Sin embargo, la IA generativa también plantea importantes riesgos de ciberseguridad para sus datos. Desde mensajes aparentemente inofensivos que pueden contener información confidencial hasta la creación de campañas de malware a gran escala, la IA generativa está ampliando enormemente la superficie de ataque de las empresas modernas.

 

Estas aplicaciones llegaron para quedarse, lo que significa que las empresas deben acomodar su estrategia de seguridad para adaptarse a ellas. He aquí cómo empezar.

Los tres principales riesgos de seguridad de la IA generativa

Los riesgos de seguridad asociados con la inteligencia artificial generativa son amenazas multifacéticas que surgen de la forma en que los usuarios dentro y fuera de las organizaciones interactúan con estas herramientas.

Los tres principales riesgos de seguridad son, en muchos sentidos, los principios fundamentales de la ciberseguridad, pero su evolución en la era de la IA puede sorprenderle:

  • Filtración de datos: Los sistemas de IA generativa pueden recopilar, almacenar y procesar grandes cantidades de datos de diversas fuentes – incluidas las indicaciones del usuario. Si estos conjuntos de datos contienen información confidencial, como estados financieros no publicados o propiedad intelectual, entonces las empresas se exponen a riesgos de terceros similares al almacenar datos en una plataforma para compartir archivos. Herramientas como ChatGPT o Bard también podrían filtrar esos datos de propiedad mientras responden solicitudes de usuarios fuera de la organización.
  • Ataques de malware: La IA generativa también puede generar nuevos y complejos tipos de malware que pueden evadir los métodos de detección convencionales. Debido a esto, las organizaciones pueden enfrentarse a una ola de nuevos ataques de día cero, sin mecanismos de defensa específicos que impidan que tengan éxito, los equipos de TI tendrán dificultades para mantenerse al día con estos agentes maliciosos.
  • Ataques de phishing: La IA generativa se destaca en la creación de contenido falso convincente que imita el contenido real pero contiene información falsa o engañosa. Este contenido falso se puede utilizar para engañar a los usuarios para que revelen información confidencial o realicen acciones que comprometan la seguridad de la empresa. Los agentes maliciosos pueden crear nuevas campañas de phishing- con historias, imágenes y videos creíbles- en minutos, y las empresas probablemente verán un mayor volumen de intentos de phishing debido a esto.

 

Cómo prevenir los riesgos de seguridad de la IA generativa 

Los tres principales riesgos de seguridad que surgen de la IA generativa siguen un hilo en común: la data.

Ya sea que accidentalmente se comparta información confidencial o que se intente robarla, la IA está amplificando aún más la necesidad de contar con controles sólidos de seguridad de los datos.

La mitigación de los riesgos de seguridad de la IA generativa se centra en tres conceptos clave: concienciación de los empleados, marcos de seguridad y soluciones tecnológicas.

  • Concienciación de los empleados: Educar a los empleados sobre el manejo seguro de información confidencial no es una práctica nueva. Sin embargo, la introducción de nuevas herramientas de IA en la fuerza laboral requiere una atención especial a las nuevas amenazas hacia la seguridad de los datos que la acompañan. Asegúrese de que los empleados comprendan qué información se puede y no se puede compartir con soluciones basadas en IA. Asimismo, concientizar al personal sobre el aumento de malware y campañas de phishing que pueden resultar de la IA generativa.
  • Marcos de seguridad: En los últimos años, las empresas han fortalecido el uso del marco Zero Trust. Sigue siendo una forma eficaz de mantener los datos fuera del alcance de quienes no deberían tenerlos limitando el acceso a aplicaciones críticas y previniendo ataques de malware antes de que ocurran. Combinar estos aspectos con los beneficios de Secure Access Service Edge (SASE) puede brindar a las organizaciones una mayor visibilidad del uso de las aplicaciones de IA en toda la red y una mejor comprensión de sus datos en dispositivos administrados y no administrados.
  • Soluciones tecnológicas: Tecnologías como Data Loss Prevention (DLP) han existido durante años, lo que permite a las organizaciones evitar que se copie y pegue información confidencial en chatbots. Risk-Adaptive Protection (RAP) permite a las organizaciones automatizar la aplicación de políticas en función del comportamiento del usuario, garantizando que las cuentas comprometidas no puedan filtrar datos. Estas herramientas existentes sólo necesitan un pequeño ajuste para satisfacer las demandas de seguridad emergentes. Sin embargo, es probable que las empresas adopten cada vez más una suite de soluciones de seguridad de datos para mantenerse al día con los cambios constantes de filtraciones y fugas de datos. 

 

Cumpla con Data Security Everywhere

Es difícil imaginar un mundo donde los datos no sean el activo más protegido de los negocios. A medida que todo lo relacionado con la información confidencial evoluciona, también deben hacerlo las políticas y protecciones implementadas para mantenerla segura. A esto lo llamamos Data Security Everywhere y continuaremos aprovechando el impulso que iniciamos el año pasado.

Descubra cómo Forcepoint ayuda a las empresas a aplicar políticas de seguridad de datos en todas partes dondequiera que vayan los datos- incluyendo la IA generativa.

Forcepoint

Forcepoint-authored blog posts are based on discussions with customers and additional research by our content teams.

Leer más artículos de Forcepoint

About Forcepoint

Forcepoint is the leading user and data protection cybersecurity company, entrusted to safeguard organizations while driving digital transformation and growth. Our solutions adapt in real-time to how people interact with data, providing secure access while enabling employees to create value.