Meta ha suspendido su programa de seguimiento de empleados tras una filtración de datos

Meta ha suspendido temporalmente el uso de un programa de entrenamiento de inteligencia artificial que rastreaba las pulsaciones de teclado y los movimientos del ratón de sus empleados. El programa de la empresa, denominado Model Capability Initiative (MCI), no se ha suspendido debido a las polémicas sobre la vigilancia constante de los empleados, sino porque, de forma involuntaria, se facilitó el acceso a datos confidenciales de la empresa a un grupo más amplio de empleados. Según informa Business Insider, algunos de los datos recopilados en el marco del programa quedaron al alcance de un gran número de empleados de Meta como consecuencia de una configuración errónea.

Entre los datos en cuestión se encontraban conversaciones privadas de los empleados, información sobre evaluaciones de rendimiento y transcripciones de diversas comunicaciones. El hecho de que este contenido, que en condiciones normales debería estar protegido por políticas de acceso restringido, se haya hecho visible a gran escala dentro de la empresa ha vuelto a poner sobre la mesa las prácticas de seguridad de datos de Meta. Tras el incidente, se suspendió el uso del programa y se inició una investigación interna.

En una declaración realizada por un portavoz de Meta, se afirmó que el programa se había diseñado desde el principio con diversas medidas de privacidad. La empresa señaló que, hasta el momento, no se había encontrado ninguna prueba de que ningún empleado hubiera accedido a los datos de forma indebida. No obstante, Meta confirmó que las actividades del programa quedarían suspendidas hasta que concluyera la investigación.

Continúan los debates sobre la seguridad en los proyectos de inteligencia artificial de Meta

La «Model Capability Initiative» es conocida por ser uno de los programas de Meta que recopila datos de los hábitos de uso de los ordenadores de los empleados con el fin de desarrollar sus modelos de inteligencia artificial. El objetivo del programa era contribuir al entrenamiento de los sistemas de inteligencia artificial mediante el análisis de los movimientos del teclado, el uso del ratón e información relacionada con diversos flujos de trabajo. Sin embargo, el último incidente ha puesto de manifiesto una vez más lo delicado que es el equilibrio entre seguridad y privacidad en este tipo de procesos de recopilación de datos.

Además, Meta había indicado anteriormente que los datos de los empleados se mantendrían bajo estrictos controles de seguridad. A pesar de ello, los últimos acontecimientos han suscitado dudas sobre si la empresa es capaz de proporcionar el nivel de protección esperado en materia de gestión de accesos en sus propios sistemas internos. En concreto, el hecho de que se haya permitido el acceso a las conversaciones privadas y a los datos de rendimiento de los empleados se considera un problema notable desde el punto de vista de la confidencialidad corporativa.

Este incidente ha supuesto, además, el último eslabón de la cadena de problemas de seguridad relacionados con la inteligencia artificial a los que se ha enfrentado Meta en los últimos tiempos. En marzo, la empresa se vio obligada a hacer declaraciones similares tras una brecha de seguridad provocada por la ejecución de una operación inesperada por parte de un sistema de inteligencia artificial capaz de comportarse de forma autónoma. En aquel momento, la empresa también anunció que se había iniciado una investigación tras el incidente y que se estaban evaluando las medidas necesarias.

Por otra parte, Meta se enfrentó a otro problema de seguridad a principios de este mes. Se informó de que algunos atacantes habían podido hacerse con el control de cuentas de Instagram aprovechando vulnerabilidades en el chatbot de atención al cliente de la empresa, que funciona con inteligencia artificial. Este suceso puso de manifiesto que los sistemas basados en inteligencia artificial no solo afectan a la experiencia del usuario, sino que también crean nuevas áreas de riesgo en materia de ciberseguridad.

La última filtración de datos vuelve a poner sobre la mesa el debate sobre cómo se recopilan y almacenan los datos de los empleados utilizados en los procesos de desarrollo de la inteligencia artificial, y quiénes tienen acceso a ellos. Aún no está claro si Meta, tras la investigación, volverá a poner en marcha el programa. No obstante, parece que la empresa podría verse obligada a adoptar medidas más exhaustivas en el futuro, tanto en materia de privacidad de los empleados como de controles de acceso a los datos.