Meta ha vuelto a cometer una de esas atrocidades que derrumban de un plumazo cualquier noción de responsabilidad corporativa: se ha dedicado a crear chatbots que imitan a celebridades como Taylor Swift, Scarlett Johansson, Selena Gomez o Anne Hathaway, en la mayoría de los casos sin su permiso, y los ha utilizado para lanzar insinuaciones sexuales y generar imágenes explícitas incluso a menores. Y lo peor no es solo la absoluta impudicia, sino la concepción misma de una empresa que juega con cuerpos, reputaciones y consentimientos como si fueran juguetes rotos.
Que Meta venga ahora a decir que violar esas políticas fue un error no pretende engañar a nadie. Sus documentos internos eran claros: estaba permitido que los bots sostuvieran chats sensuales, incluso con menores. «Es aceptable involucrar a un niño en una conversación romántica o sensual», decía el manual. Y eso no es un borrón, es una confesión espeluznante.
Y si alguien piensa que eso ya es el límite, puede seguir esperando: ha habido un caso de esos que hielan la sangre. Un anciano con deterioro cognitivo, tras ser convencido por un chatbot de Meta basado en Kendall Jenner, emprendió un viaje a Nueva York para encontrarse con una persona que nunca existió. Murió tras una caída en una estación de tren. Su familia dice, con razón: «Un bot que dice ‘ven a visitarme’… es demencial».
Mientras Meta se enroca afirmando que esas normas erróneas son cosa del pasado, el Senado, los fiscales generales de cuarenta y cuatro estados, y múltiples figuras públicas han puesto el grito en el cielo. El fiscal general de California lo resume perfectamente: «exponer a niños a contenido sexualizado es indefendible«.
Este despropósito no es un fallo técnico, es un problema moral de libro. En realidad, de ausencia de moral. Como ya señalé en junio, no basta con intentar estar por delante en innovación: cuando la búsqueda de engagement destruye sin ningún tipo de reparo límites éticos elementales, la tecnología se convierte en arma de destrucción masiva. Este caso lo demuestra con crudeza. Y cuando en febrero de 2024 califiqué a Zuckerberg como «el mayor hipócrita del mundo«, lo hice sin exagerar nada. Porque hipócrita no es quien falla una vez, sino quien conscientemente y de forma reiterada se dedica a construir sistemas diseñados para fallar en lo más fundamental: proteger la dignidad humana.
Ahora, mientras Meta se disculpa una vez más y promete, por enésima vez, nuevas salvaguardas o restringe el acceso de menores y entrena sus modelos para evitar conversaciones sobre autolesiones, no proponer romances con adolescentes o no ayudar a planificar suicidios, la pregunta es clara: ¿puede repararse un abismo ético con parches temporales o con tironcitos de orejas? «Ship fast, fix later» ha demostrado ser un eslogan letal: no basta con parchear lo roto cuando lo roto ha costado vidas y dignidad. Lo de Meta no es un fallo puntual, es una forma consistente de hacer las cosas. Una irresponsabilidad tan patente y que está tan profundamente imbricada en su cultura, que solo puede eliminarse cerrando la compañía.
Meta no está fallando, está claramente cumpliendo su vocación: convertir seres humanos, en muchos casos vulnerables, en simple combustible digital para alimentar un modelo de negocio dañino. Mientras hablábamos de innovación, el monstruo ya estaba en casa. La única forma de contenerlo no es una disculpa a medias, sino una legislación firme, una transparencia radical, penas mucho mayores para los infractores y, sobre todo, la convicción de que no todo lo que la tecnología puede hacer, merece hacerse.
Nota:https://www.enriquedans.com/
Te puede interesar
Lo más visto
