No quiero admitirlo, pero gasté mucho dinero en línea esta temporada de compras navideñas. Y, como era de esperar, algunas de esas compras no cumplieron con mis expectativas. Un álbum de fotos que compré se dañó durante el transporte, así que tomé algunas fotografías, se las envié por correo electrónico al comerciante y obtuve un reembolso. Las plataformas de compras en línea han dependido durante mucho tiempo de las fotografías enviadas por los clientes para confirmar que las solicitudes de reembolso son legítimas. Pero la IA generativa está empezando a romper ese sistema.
Un pellizco demasiado sospechoso
En la aplicación de redes sociales china RedNote, WIRED encontró al menos una docena de publicaciones de vendedores de comercio electrónico y representantes de servicio al cliente quejándose de reclamos de reembolso supuestamente generados por IA que habían recibido. En un caso, un cliente se quejó de que la sábana que había comprado estaba rota en pedazos, pero los caracteres chinos en la etiqueta de envío parecían un galimatías. En otro, el comprador envió una foto de una taza de café con grietas que parecían lágrimas de papel. «Esta es una taza de cerámica, no una taza de cartón. ¿Quién podría romper una taza de cerámica en capas como esta?» El vendedor escribió.
Los comerciantes informaron que hay algunas categorías de productos en las que se abusa más de las fotografías de daños generadas por IA: alimentos frescos, productos de belleza de bajo costo y artículos frágiles como tazas de cerámica. Los vendedores a menudo no piden a los clientes que devuelvan estos productos antes de emitir un reembolso, lo que los hace más propensos a sufrir estafas de devolución.
En noviembre, un comerciante que vende cangrejos vivos en Douyin, la versión china de TikTok, recibió una foto de un cliente que hacía parecer que la mayoría de los cangrejos que compró ya habían llegado muertos, mientras que otros dos habían escapado. El comprador incluso envió vídeos que mostraban a los cangrejos muertos siendo pinchados por un dedo humano. Pero algo estaba mal.
«Mi familia ha cultivado cangrejos durante más de 30 años. Nunca hemos visto un cangrejo muerto con las patas apuntando hacia arriba», dijo Gao Jing, la vendedora, en un vídeo que publicó más tarde en Douyin. Pero lo que finalmente reveló la estafa fueron los sexos de los cangrejos. Había dos hombres y cuatro mujeres en el primer video, mientras que en el segundo clip había tres hombres y tres mujeres. Uno de ellos también tenía nueve patas en lugar de ocho.
Más tarde, Gao denunció el fraude a la policía, quien determinó que los videos eran efectivamente inventados y detuvo al comprador durante ocho días, según un aviso policial que Gao compartió en línea. El caso atrajo amplia atención en las redes sociales chinas, en parte porque fue la primera estafa de reembolso de IA de este tipo conocida que desencadenó una respuesta regulatoria.
Bajando barreras
Este problema no es exclusivo de China. Forter, una empresa de detección de fraudes con sede en Nueva York, estima que las imágenes manipuladas por IA utilizadas en solicitudes de reembolso han aumentado en más del 15 por ciento desde principios de año y continúan aumentando a nivel mundial.
«Esta tendencia comenzó a mediados de 2024, pero se aceleró durante el año pasado a medida que las herramientas de generación de imágenes se volvieron ampliamente accesibles e increíblemente fáciles de usar». dice Michael Reitblat, director ejecutivo y cofundador de Forter. Agrega que la IA no tiene que hacerlo todo bien, ya que los trabajadores minoristas de primera línea y los equipos de revisión de reembolsos pueden no tener tiempo para examinar de cerca cada imagen.