Cuando busca algunos nombres de drogas en Spotify, no solo los programas sobre la salud o la adicción, sino también las páginas de podcast falsas peligrosas. Estas páginas incluyen enlaces a farmacias ilegales de Internet. Algunos nombres de podcast contienen expresiones claras como «My Adderall Store» y hay conexiones con la venta de medicamentos en la sección Descripción.
CNN detectó 26 podcasts … Spotify tomó medidas pero insuficiente
Después de que CNN reportó 26 podcasts ilegales para Spotify, la compañía eliminó estos contenidos. Sin embargo, a la mañana siguiente, otros podcasts en la plataforma todavía estaban en línea. El portavoz de Spotify admitió que este contenido violaba las reglas de la plataforma, mientras que los sistemas de control de moderadores humanos y compatibles con inteligencia artificial funcionan constantemente.
Promesas para la venta sin receta: «Entrega aprobada por la FDA»
Muchos podcasts falsos contienen solo unos pocos segundos y hacen reclamos como «entrega de Xanax recetada por la FDA» a través de Robot Sounds. Por ejemplo, «xtrapharma.com» argumenta que puede obtener drogas adictivas como Podcast, Xanax y OxyContin en la comodidad del hogar.
No solo el nombre, sino también los sonidos son falsos
Casi todos estos podcasts usan sonidos de robot producidos con inteligencia artificial. El sonido utilizado en el podcast “John Elizabeth, tiene el mismo timbre que otros podcasts falsos. Esto una vez más revela cuán fácilmente se pueden abusar de las tecnologías de texto SES.
Apunta a los jóvenes: Familias en alarma
Se cree que los podcasts falsos apuntan a los jóvenes, especialmente a los jóvenes. En los últimos años, el aumento en el número de jóvenes que perdieron la vida debido a las drogas compradas ilegalmente en Internet, han alarmado a sus familias y expertos. Esta vulnerabilidad en Spotify muestra cuán inadecuados son los gigantes de la tecnología en términos de control de contenido.
A pesar de las reglas de Spotify
Las directivas del productor de contenido de Spotify prohíben claramente la promoción de productos ilegales y contenido de spam. Sin embargo, existen serias debilidades en la implementación de estas reglas. Aunque la compañía establece que «copiar contenido que ordena a sitios dañinos» se eliminará, estas políticas aún no pueden operarse de manera efectiva.
Ha habido escándalos similares en el pasado
En 2011, Google pagó $ 500 millones por una razón similar. El gigante de Internet, acusado de difundir anuncios de farmacia ilegales basados en canadiense, endureció las políticas publicitarias y de búsqueda desde entonces. En 2018, llamó a plataformas como FDA, Facebook, Twitter y Reddit y anunció que deberían prevenir las ventas ilegales de opioides.
Expertos: los podcasts enfrentan el déficit de inspección
Según la directora del Proyecto de Transparencia Tech Katie Paul, las plataformas de podcast tienen un gran punto ciego, especialmente en el control. «Podemos encontrar la promoción de productos ilegales donde sea que haya el contenido producido por el usuario. La pregunta es: ¿qué hacen las empresas para evitar esto?» dijo.
Las discusiones de seguridad están creciendo en Spotify
Spotify también recibió fuertes críticas por la desinformación Covid-19, que se extendió en el programa «The Joe Rogan Experience» en 2022, y algunos artistas eliminaron su música de la plataforma. Luego se estableció la Junta Asesora de Contenido y se compró el intento de inteligencia artificial llamado Kinzen y se fortalecieron los sistemas de detección de contenido. Sin embargo, parece que estas medidas no son suficientes para bloquear los podcasts falsos.
La descripción vino de Spotify
El portavoz de Spotify dijo en un comunicado a CNN:
«En nuestra plataforma, estamos trabajando constantemente para detectar y eliminar el contenido que viola las reglas. Todo tipo de contenido, sistemas humanos y automatizados que actúan contrariamente a las reglas de nuestra comunidad se determinan y eliminan de la publicación».
Padres y expertos advierten: ¡La auditoría debería aumentar!
Sarah Gardner, CEO de Heat Initiative, que opera en el campo de la seguridad infantil, pidió a las plataformas que asuman más responsabilidad:
«Esto no solo se limita a Spotify. Es inevitable que pueda encontrar ventas ilegales en la plataforma de cualquier plataforma de intercambio de contenido cuando no hay suficiente inspección».