Después del 'spam' llega el 'slop': así puedes detectarlo y evitar fraudes y engaños

Con la llegada de los modelos de lenguaje complejos en inteligencia artificial (IA), sin embargo, los asiduos a la red de redes se enfrentan a otro concepto en auge: el 'slop' ('bazofia' en español). Hace referencia a todo el contenido generado mediante IA sin supervisión humana, por lo que puede resultar erróneo y hasta peligroso. Así, empiezan a surgir los medios digitales repletos de artículos generados y publicados automáticamente, sin que hayan sido revisados por un profesional. La consecuencia directa es un cúmulo de informaciones falsas que los lectores menos avispados pueden tomar como verdaderas y difundir a su vez a través de aplicaciones de mensajería o las redes sociales, espoleando unos mensajes a menudo dañinos.

El porqué de la práctica descrita reside en su rentabilidad: no hay plantilla de redactores a la que pagar, tan solo una IA encargada de lanzar artículos como churros para conseguir el mayor número de visitas posibles y, con ello, unos ingentes ingresos por publicidad. Por esto mismo, las inteligencias artificiales son entrenadas para doblegar a los algoritmos de los principales buscadores (como Google), identificando los términos más buscados en cada momento e integrándolos en unos textos que a menudo confunden declaraciones o las ponen en boca de fuentes inexactas.

Por supuesto, los ciberdelincuentes también están sacando provecho al slop, distribuyendo contenidos generados por IA para robar datos o vaciar cuentas corrientes. A menudo amparados en campañas de recaudación de fondos fraudulentas, ilustradas con imágenes irreales de niños enfermos o animales desamparados. Porque sí, el slop también hace referencia a todo ese contenido multimedia que podemos encontrar en prácticamente cualquier rincón de Internet: vídeos y fotos que conviene examinar con lupa antes de darlos por buenos.

The Guardian publicó recientemente algunos ejemplos de slop según la definición propuesta por el desarrollador Simon Willison (quien asegura haber descubierto el término en varios foros de conversación): un artículo sobre viajes publicado en el portal de Microsoft llegó a recomendar el banco de alimentos de Ottawa como uno de los lugares imprescindibles para los turistas; en Facebook están reportándose peligrosas imágenes manipuladas (como las de niños conduciendo un coche confeccionado a partir de botellas de plástico); y en Amazon se han detectado libros que pueden poner en riesgo la salud de sus lectores, como 'The Supreme Mushrooms Books Field Guide of the South-West' (una guía sobre la recolección de setas que da por comestible un tipo de hongo altamente venenoso).

Como vemos, este contenido basura ha llegado también al sector editorial sin que nadie haya puesto remedio. Por esto mismo, explicó Willison a The Guardian, «es realmente importante tener una palabra que defina el problema y pueda popularizarse. Antes de que surgiera el término 'spam', la gente no creía que el envío masivo de publicidad fuese algo malo. Espero que 'slop' tenga el mismo efecto; que los usuarios comprendan que publicar contenido generado por IA, no revisado, constituye un mal comportamiento».

Por lo pronto, gigantes como Meta (propietaria de Facebook, WhatsApp e Instagram) han reconocido el problema y aseguran estar entrenando a sus sistemas para que identifiquen claramente las publicaciones o mensajes escritos por humanos del mero slop: «La gente necesita tener claro dónde está el límite entre una cosa y otra», escribió en sus redes el presidente de asuntos globales de la compañía, Nick Clegg, el pasado febrero. Google también se ha comprometido a limitar las respuestas generadas por IA en su buscador, priorizando los tradicionales enlaces.

En cualquier caso, nuestro cometido como usuarios será recurrir únicamente a aquellas cabeceras, editoriales o fuentes que tengamos por confiables; contrastar las informaciones que nos generen la mínima sospecha y no compartirlas junto a imágenes o vídeos poco congruentes. A fin de cuentas, el slop eleva un peldaño más las preocupaciones surgidas hará unos años con los llamados 'deepfakes', donde los rostros de anónimos y celebridades se fundían con otros cuerpos para calumniar o promover mensajes engañosos.