Julie Carpenter, experta en interacción humano-IA, no culpa a la gente por tratar a los chatbots como si fueran personas. Según ella, las herramientas de IA generativa están diseñadas para provocar esa reacción: crean recuerdos personalizados y conversaciones que imitan relaciones sociales.

¿Qué propone OpenAI?

OpenAI ha insinuado desde hace un tiempo que quiere habilitar contenido erótico para usuarios adultos en ChatGPT. El calendario es incierto, pero la idea va en serio y ha encendido advertencias de expertos externos. Entre los riesgos mencionados está la posibilidad de que el sistema actúe de forma peligrosa si no se controla adecuadamente, por ejemplo ofreciendo consejos dañinos en contextos sensibles.

Erotismo en una plataforma masiva

Hasta ahora, los chatbots sexuales suelen operar en sitios especializados. La novedad aquí sería llevar esa función a una plataforma de amplio uso. Esto cambia la ecuación. No hablamos solo de contenido adulto, sino de ponerlo bajo la misma infraestructura que ya atiende a millones de personas.

La memoria de ChatGPT y por qué importa

OpenAI ha ido mejorando la función de memoria de ChatGPT. Esa memoria guarda preferencias y contexto de conversaciones pasadas para ofrecer respuestas más personales. Por ejemplo, si eres vegano, no propondrá un restaurante de carne. Si sueles hablar desde San Francisco, sugerirá rutas cercanas cuando pidas planes al aire libre.

Ahora imagina que esa personalización incluye fantasías sexuales. En lugar de recordar solo tus películas favoritas, la IA podría retener detalles íntimos sobre fetiches, prácticas o preferencias extremas y utilizarlos para ajustar futuras respuestas.

Privacidad, retención y falsas sensaciones de anonimato

OpenAI planea ofrecer una opción llamada "conversaciones temporales" cuyo objetivo es que ciertos chats no aparezcan en el historial del usuario ni se usen para mejorar los modelos. Suena prometedor, pero no es completamente evaporador. Por motivos de seguridad, esas conversaciones podrían guardarse durante un periodo limitado, de hasta 30 días, y además la empresa advierte que cambios legales recientes pueden afectar la retención de datos.

  • Persistencia de datos. Aunque el chat no figure en tu historial, pueden existir copias temporales conservadas para seguridad.
  • Riesgo de filtración. Si una cuenta se hackea, si hay una brecha de seguridad o si una autoridad exige acceso, conversaciones íntimas podrían hacerse públicas.
  • Exposición accidental. En el pasado, se han producido incidentes donde partes de historiales o conversaciones de usuarios quedaron accesibles de forma no intencionada.

Cuánto puede escalar esto

Las interacciones eróticas con una IA no solo registran un dato frío. Pueden intensificarse con el tiempo: la conversación evoluciona, la IA aprende lo que el usuario comenta y puede explorar fantasías cada vez más explícitas o extremas. Eso produce un archivo muy detallado sobre la vida sexual de una persona, algo diferente a la lista de sitios para adultos que alguien visita.

Casos anteriores que sirven de advertencia

OpenAI ha afrontado problemas antes. Ha habido momentos en que títulos de chats o fragmentos de conversaciones se hicieron visibles por errores técnicos. También se han dado situaciones donde ajustes de privacidad mal configurados provocaron que interacciones llegaran a índices públicos. Esos episodios muestran que la teoría de privacidad no siempre se cumple en la práctica.

Qué debería importar al usuario

Si decides probar un modo adulto en un chatbot, ten presente esto:

  • La experiencia puede sentirse privada, pero la plataforma puede retener información temporalmente.
  • Los registros podrían ser accesibles por terceros en caso de incidentes de seguridad o requerimientos legales.
  • La personalización que buscas para una conversación íntima también crea un perfil sensible que puede ser problemático si se expone.

No se trata de cerrar la puerta a la exploración sexual. Se trata de saber que la puerta que se abre hoy puede dejar huella en servidores y registros que no controlas por completo.

Nota: las decisiones sobre cuánto y cómo se guardan estos datos todavía están en desarrollo, y la compañía detrás de la tecnología continúa ajustando políticas y controles.