Por Luis Maram
La inteligencia artificial (IA) generativa está redefiniendo los límites de la creatividad, el marketing y la comunicación. Independientemente de los avances que puede lograr y los contenidos que puede desarrollar, la IA también está generando una tonelada de dilemas éticos. En el centro de este debate se encuentra OpenAI, la organización detrás de herramientas como ChatGPT, cuya reciente decisión ha encendido una intensa conversación global: próximamente será posible tener contenido erótico con IA en ChatGPT.
Esta postura no es una mera actualización de términos de servicio; representa un punto de inflexión. hablemos de ello.
El sexo vende, se nos ha dicho hasta el cansancio, pero la realidad es que el sexo vende sexo. A pesar de que muchos talleres mecánicos solían exhibir mujeres en sus calendarios, esta práctica no elevaba las ventas… ¿o me equivoco? El sexo es atractivo y, por ende, muchas marcas buscan usarlo como gancho de atención, pero no se convierte en ventas a menos que el producto en sí mismo sea eso. ¿Por qué OpenAI se abre al contenido erótico? Porque lo que entrega sí puede tener esa naturaleza. La empresa lo sabe, el consumidor lo sabe, Dios lo sabe y tú y yo también; nadie se espanta de ello. Así que desnudemos esa verdad y hablemos también de las implicaciones éticas que esto trae consigo.
El auge de la inteligencia artificial generativa
En pocos años, la IA generativa ha evolucionado de un concepto de nicho a una tecnología de uso masivo. Modelos como ChatGPT, Gemini o Claude, basados en arquitecturas de aprendizaje automático, pueden redactar textos y crear imágenes con una sofisticación asombrosa. Avanzando un paso más también encontramos herramientas como Suno, Sora y Kling, capaces de crear música y video. La escala de esta producción es monumental; según Digital Silk, la IA generativa creó 15 mil millones de imágenes en solo 1.5 años, una hazaña que a la fotografía tradicional le tomó casi un siglo y medio. Esta capacidad exponencial para generar contenido de todo tipo es el motor detrás del actual debate.
La creciente preocupación por el contenido sensible
Voltaire ya lo señalaba: con un gran poder viene una gran responsabilidad.
La capacidad de las herramientas de inteligencia artificial para generar contenido realista ha disparado las alarmas sobre su potencial mal uso. La creación de deepfakes para la desinformación, el ciberacoso o la pornografía no consentida son riesgos tangibles y ya vemos sus consecuencias a diario.
La seguridad se ha convertido en la principal preocupación. Los datos reflejan esta inquietud: un 68% de los consumidores se muestra preocupado por la desinformación generada por la tecnología de IA.
Contenido erótico con IA
En medio de este contexto, OpenAI ha decidido navegar por aguas turbulentas. Su política, aunque sigue prohibiendo el contenido ilegal y el material sexual no consentido, ahora permitirá la generación de «contenido NSFW» (Not Safe For Work) cuando el contexto es apropiado, como en aplicaciones creativas o chatbots de compañía.
La política de contenido de OpenAI
OpenAI doce mantener una postura firme contra el contenido que explota, abusa o pone en peligro a menores. La pornografía infantil y la generación de imágenes sexuales no consentidas (deepfakes) siguen estando estrictamente prohibidas y son combatidas activamente. Asimismo, el contenido que glorifica la violencia sexual o promueve el odio está fuera de los límites. El objetivo es prevenir el uso de sus herramientas para fines ilícitos o socialmente destructivos, enfocando la permisividad en contextos consentidos y creativos.
Ejemplos de contenido erótico con IA en el marketing
¿Podria ser benéfico este cambio para la generación de contenido?
La IA puede ayudar a escritores y creativos a explorar historias humanas desde el deseo, el afecto o el trauma, creando contenido con mayor engagement. Más emoción suele significar más conexión.
Con la apertura al contenido NSFW también surgen nuevas oportunidades para marcas que antes operaban en los márgenes del marketing tradicional: bienestar sexual, literatura romántica, incluso salud mental y terapias de pareja.
Plataformas como Patreon o OnlyFans ya demostraba que el contenido íntimo puede tener valor percibido alto. Los creadores de contenido, usando IA como copiloto, pueden escalar su producción sin sacrificar autenticidad, generando ingresos sostenibles.
En el mercado del acompañamiento, un desarrollador podría usar la API de OpenAI para crear un chatbot diseñado para interacciones íntimas, un mercado en crecimiento que, según la Universidad de Oxford, ya cuenta con aproximadamente 29 millones de usuarios activos.
A pesar de estas oportunidades, en teoría, una solicitud para generar una imagen sexualmente explícita de una persona real sin su consentimiento sería bloqueada.
Las razones detrás de la decisión de OpenAI
La decisión de OpenAI no es arbitraria, sino el resultado de una compleja ponderación de principios éticos, riesgos reputacionales y presiones de mercado.
Un primer atisbo de estas situaciones lo habíamos vistos con los chatbots eróticos de X, impulsados por Elon Musk.
La compañía se encuentra en una encrucijada, tratando de fomentar la innovación sin abdicar de su responsabilidad social.
Principios éticos y responsabilidades
La misión declarada de OpenAI es garantizar que la inteligencia artificial general (AGI) beneficie a toda la humanidad. Desde esta perspectiva, las prohibiciones demasiado estrictas podrían sofocar la creatividad y la exploración de la experiencia humana. La nueva política puede interpretarse como un intento de tratar a los «adultos como adultos», confiando en que los usuarios utilicen la tecnología de manera responsable dentro de un marco de seguridad definido.
Por desgracia esto nunca ha sido así.
La proliferación de deepfakes pornográficos ha causado un daño inmenso, especialmente a mujeres. El acceso a material pornográfico ha quedado siempre al alcance de menores debido a controles de seguridad débiles y el daño a la psique no solo de la niñez sino de la sociedad en general ante una oleada de contenido explícito, puede no tener marcha atrás.
La subjetividad del contenido y el desafío de la definición
¿Qué es «erótico» y qué es «pornográfico»? ¿Qué es «arte» y qué es «obscenidad»? Estas preguntas no tienen respuestas universales. Las definiciones varían enormemente entre culturas, contextos e individuos. Codificar esta subjetividad en algoritmos es una tarea casi imposible, lo que garantiza que cualquier sistema de moderación automatizado cometerá errores y generará controversia. Este problema se extiende a la moderación de otros tipos de contenido, como el discurso de odio o la desinformación.
Responsabilidad y rendición de cuentas en la generación de contenido por IA
Si una IA genera contenido dañino o ilegal, ¿quién es el responsable? ¿El usuario que hizo la solicitud, la empresa que desarrolló la IA o el desarrollador de la aplicación que la utilizó? Establecer cadenas claras de responsabilidad y rendición de cuentas es esencial para una gobernanza efectiva. Sin ellas, las víctimas de daños causados por la IA pueden quedar sin recurso.
Privacidad y datos personales
La generación de contenido personal e íntimo plantea serias preocupaciones sobre la privacidad. Los usuarios deben confiar en que sus interacciones con los chatbots no serán almacenadas, analizadas o utilizadas indebidamente. Las políticas de retención de datos y las medidas de seguridad de empresas como OpenAI son objeto de un escrutinio cada vez mayor, ya que la personalización de la IA depende del acceso a datos sensibles del usuario.
De modo que la decisión de OpenAI de crear contenido erótico con IA, no es simplemente un anécdota más en la carrera de la IA; es un parteaguas y habrá que seguir de cerca lo que suceda, tanto a nivel de las grandes tecnológicas como de los desarrolladores, las marcas y los usuarios. No cabe duda que seguimos viviendo tiempos de Darwinismo digital, donde los cambios se suceden más rápido de lo que podemos ponernos al corriente con ellos.
Luis Maram, Marketing y sostenibilidad
Marketer, Speaker, Experto en Marketing y Reputación
Linkedin
Creo en el impacto transformador de las marcas en nuestra sociedad y nuestro mundo. Como estratega digital con alta experiencia en contenidos y RSE, me dedico a guiar y empoderar a las marcas para desarrollar acciones y contenidos que inspiren, conecten y generen resultados.
Soy Director de Marketing y Media en Expok, desde donde gestiono la estrategia digital de la empresa.
Edito uno de los blogs de estrategia de contenido y marketing digital más reconocido de México: LuisMaram.com, y he disfrutado enormidades al impartir más de un centenar de conferencias en México y más allá de sus fronteras.
