ChatGPT habilitará "chats eróticos" para adultos, pero expertos advierten sobre estos riesgos

La empresa OpenAI anunció un cambio significativo en la política de contenidos de su popular herramienta de inteligencia artificial (IA), ChatGPT, que permitirá el acceso a contenido erótico para usuarios adultos verificados a partir de diciembre.

La decisión, confirmada por el director general ejecutivo de la compañía, Sam Altman, busca hacer la plataforma "más útil y disfrutable" para la mayoría de usuarios, aliviando las "restricciones fuertes" impuestas previamente tras reportes de usos problemáticos y tragedias vinculadas a la IA.

Sin embargo, el anuncio provocó una inmediata ola de advertencias por parte de ingenieros, psiquiatras y especialistas en seguridad digital, quienes señalan dos puntos críticos: la vulnerabilidad de los sistemas de verificación de edad y las graves consecuencias psicológicas que este tipo de interacción hiperpersonalizada puede desencadenar.

El debate de la seguridad: "Ningún sistema es infalible"
Especialistas en IA consultados por el diario porteño La Nación coincidieron en que OpenAI no puede garantizar un acceso blindado para menores. Tecnólogos como Carlos Arana (UCEMA) e Ingrid Toppelberg (MIT) explicaron que las verificaciones de edad, incluso aquellas que requieren documentación, son susceptibles a errores (falsos negativos) y a la evasión.

"No hay sistema 100% infalible," señaló Toppelberg, advirtiendo que siempre habrá formas de saltarse los controles, incluyendo el uso de identificaciones falsas o la compra de cuentas verificadas, una práctica ya existente en otras plataformas de IA especializadas o sitios de contenido para adultos.

La alarma de los psicólogos: El riesgo de la hiperpersonalización
Más allá de la cuestión técnica, expertos en salud mental pusieron el foco en el impacto social y psicológico de esta nueva funcionalidad. Carolina Sánchez Agostini, psicóloga y profesora del IAE Business School, sostuvo que el debate debe centrarse en el "impacto sobre el bienestar psicológico, la calidad de los vínculos y la forma en que aprendemos a mirar y cuidar al otro".

Sánchez Agostini enfatizó que el consumo de contenido erótico AI empobrece la calidad de las aspiraciones afectivas, acostumbrando al usuario a una "ciencia ficción del sexo" y fomentando una visión narcisista y de objetivación.

El psiquiatra Ángel Gargiulo (CISMA) destacó que el erotismo generado por IA es un "estímulo supernormal" debido a su naturaleza interactiva, personalizable y sin límites, lo que amplifica el potencial adictivo. Gargiulo indicó que estudios cualitativos preliminares ya relacionan el consumo problemático con un mayor riesgo de:

Uso compulsivo y dependencia emocional.
Aislamiento social.
Disfunción sexual y peor satisfacción de pareja.

Distorsiones afectivo-sexuales.

La psicóloga Bárbara Ayub agregó la preocupación por la normalización del uso inapropiado de la tecnología y la introducción de inquietudes éticas nuevas, como la falta de consentimiento real en la generación de imágenes o videos, y el riesgo de generar contenido con características de pedofilia a demanda del usuario.

Ante este panorama, los expertos pidieron a las empresas de IA que eleven los estándares de seguridad, garanticen mayor transparencia pública y asuman la responsabilidad ética y legal de las implicaciones de un contenido que, aseguran, abre una "nueva zona de vulnerabilidad" inexplorada.

Nota:iprofesional.com