Casi la mitad de las interacciones con modelos de inteligencia artificial en las organizaciones a nivel mundial se realiza mediante cuentas personales no gestionadas. Según un estudio de Akamai, plataforma global de computación, ciberseguridad y distribución de contenido en la nube, la proporción alcanza 47,11%.
Esta práctica impide la auditoría de datos por parte de las compañías y dificulta el cumplimiento de las políticas de retención y seguridad de información sensible. El problema cobra relevancia ante el uso masivo de modelos y herramientas con inteligencia artificial.
Solo en Colombia, el uso de herramientas de IA en el ámbito corporativo alcanza cerca de 25%, superando la tasa de adopción de otros mercados de la región. Expertos en ciberseguridad y datos han identificado una brecha que continúa creciendo y sobre la cual no existe suficiente información, debido a la velocidad con la que esta tecnología evoluciona.
El uso de cuentas personales puede convertirse en una amenaza para la soberanía de los datos de las empresas, que pueden poner en riesgo su información debido al desconocimiento de los protocolos de seguridad.
Este riesgo es más común de lo que parece. John Ricardo León, security enterprise architect en Akamai, explica que las filtraciones ocurren cuando los empleados suben archivos con datos confidenciales para agilizar sus tareas diarias, sin medir los riesgos de privacidad.
“El usuario final corporativo a veces no tiene la claridad de lo que es personal y qué es lo corporativo (…) a través de esas cuentas personales o el uso de pocas cuentas, y si no está configurado de forma correcta, pues eventualmente esas herramientas de inteligencia artificial podrían utilizar esa misma información para otro usuario, un tercero que haga una pregunta en particular de esa organización o que intente sacar estadísticas alrededor y que puedan sumar dentro de esa información”, dijo León.
Este escenario plantea la pregunta sobre quién asume la responsabilidad ante una filtración por usar IA.
Para León, la protección de los datos recae tanto en los proveedores de modelos de inteligencia artificial como en los usuarios y las empresas, que deben saber qué información está permitido compartir.
“Las grandes compañías de IA tienen ciertas políticas para sus usuarios; de hecho, en la interacción misma con las herramientas de inteligencia artificial sacan disclaimers, diciendo que esta información podría llegar a ser utilizada en el futuro”, explicó.
El factor humano también influye en los incidentes de ciberseguridad. Según un informe de ManageEngine, 58% de las empresas colombianas reportó haber experimentado más ciberataques exitosos en 2023, mientras que el error humano fue la causa en 68% de los casos.
Aun cuando las cuentas corporativas cuentan con acuerdos de confidencialidad entre la empresa y el proveedor de IA, las filtraciones son probables porque la mayoría de las organizaciones carece de políticas de gobierno de IA y los colaboradores desconocen los riesgos operativos.
Las compañías de los sectores financiero, salud y desarrollo de software presentan la mayor vulnerabilidad, pues manejan transacciones, historias clínicas y código fuente confidencial. Empresas como Akamai ofrecen herramientas que restringen el envío, copiado o subida de archivos sensibles a plataformas de IA. Sin embargo, la capacitación del personal y su constante actualización son cruciales para la seguridad de los datos.
