Se ha sabido que Apple tomó medidas drásticas entre bastidores en relación con la presencia en la App Store del chatbot Grok, desarrollado por xAI. Según la información compartida por NBC News, a principios de año Apple se planteó seriamente la posibilidad de retirar la aplicación de la tienda tras la difusión de contenidos deepfake sexualizados generados por Grok. En concreto, las modificaciones inapropiadas realizadas en fotografías de personas reales se consideraron una infracción de las políticas de la empresa.
La polémica, que comenzó en los primeros meses del año cuando los usuarios solicitaron a Grok que dejara desnudas a las personas de las fotografías —especialmente a las mujeres y, en algunos casos, a menores de edad—, creció rápidamente. Este hecho generó presión pública sobre Apple para que retirara las aplicaciones Grok y X de la App Store. Aunque Apple evitó hacer una declaración pública, parece que la empresa intervino en segundo plano, comunicándose directamente con los desarrolladores para resolver el problema.
Según informa NBC News, Apple se puso en contacto con los equipos de X y Grok para exigirles que adoptaran medidas más estrictas en materia de control de contenidos. La empresa pidió a los desarrolladores que presentaran un plan concreto para subsanar las infracciones existentes. En este proceso, la primera actualización enviada por X no se consideró suficiente y fue rechazada por Apple. Al no cumplir las expectativas, se prepararon nuevas versiones.
Tras las revisiones de Apple, se realizaron ajustes adicionales para Grok
Según la carta enviada por Apple a los senadores estadounidenses, en revisiones posteriores se determinó que la aplicación X cumplía en gran medida con las normas. Por el contrario, la aplicación Grok no se consideró suficiente en esa misma fase y se señaló que persistía la situación de incumplimiento de las normas de la App Store. Apple informó al desarrollador y le indicó claramente que, de no realizarse ajustes adicionales, la aplicación podría ser retirada de la tienda.
Tras estas advertencias, se realizaron nuevos cambios en Grok y la versión actualizada de la aplicación se sometió a una nueva evaluación. En la fase final, Apple decidió que las mejoras realizadas eran suficientes y aprobó la versión actualizada de Grok. Este proceso también aclaró el trasfondo de los diversos cambios de moderación que xAI había anunciado en ese momento. En este contexto, se implementaron restricciones al acceso a las herramientas de generación de imágenes y a las modificaciones que se pueden realizar en fotografías de personas reales.
Sin embargo, no se puede afirmar que la situación actual sea totalmente libre de problemas. Según una noticia independiente de NBC News, Grok sigue siendo capaz de generar imágenes sexualizadas sin el consentimiento de los usuarios en algunos casos. Numerosos ejemplos documentados en el último mes demuestran que determinados usuarios pueden eludir las restricciones actuales. Aunque se ha producido una disminución notable en el número de este tipo de contenidos en comparación con enero, llama la atención que el sistema aún no sea totalmente seguro.
En la noticia se señala que algunos usuarios siguen pudiendo generar imágenes en las que se muestra a mujeres con ropa más escasa. Las modificaciones realizadas con prendas como toallas, sujetadores deportivos o trajes ajustados ponen de manifiesto que aún es posible burlar los límites de los filtros actuales. Esta situación pone de relieve una vez más lo complejo que es el control de contenidos en las herramientas de generación de imágenes basadas en inteligencia artificial y la necesidad de actualizarlo constantemente.