Les contamos que la red social X de Elon Musk limitó la función de producción visual de Grok a suscriptores pagos debido a una producción visual sexualizada y no consensuada. Grok lleva semanas enfrentando críticas por producir imágenes sexualmente explícitas de niños y desnudez no consentida. Tras esta reacción, X anunció que Grok había cambiado sus políticas con respecto a las capacidades de edición de imágenes.
En una actualización compartida en su cuenta de Seguridad, la compañía declaró que se han implementado medidas tecnológicas para evitar que se permita editar a través de la cuenta de Grok imágenes que muestran a personas reales con ropa reveladora, como bikinis.
Según la información compartida por X, las nuevas medidas de seguridad se aplicarán a todos los usuarios independientemente de si han pagado por Grok o no. Los usuarios que aún no hayan pagado ya no podrán crear imágenes en Grok. Además, la compañía bloqueará geográficamente «la capacidad de todos los usuarios de crear imágenes de personas reales usando bikinis, ropa interior y prendas similares a través de su cuenta Grok y Grok on X» en regiones donde esto sea ilegal.
Aunque países como Malasia, Indonesia y Reino Unido han tomado medidas contra el contenido producido desde hace un tiempo y el estado de California abrió una investigación, Elon Musk afirmó que no tenía conocimiento de las imágenes de desnudos de menores de edad producidas por Grok. Afirmando en su actualización que tiene «tolerancia cero» con el abuso infantil,
Grok está prohibido en Indonesia y Malasia, mientras que el regulador británico Ofcom inició una investigación formal sobre X el lunes. Mientras tanto, la oficina del primer ministro Keir Starmer dijo que acogía con agrado la noticia de que X estaba abordando el tema. El fiscal general de California, Rob Bonta, anunció que ha iniciado una investigación sobre la difusión de material sexualmente explícito no consensuado producido con Grok.
Elon Musk dijo en su declaración: «Dado que el modus operandi de Grok es cumplir con las leyes de cualquier país o estado, se negará a producir cualquier cosa ilegal cuando se le solicite que produzca imágenes». dijo.