ChatGPT pronto permitirá contenido erótico para adultos verificados, cube el jefe de OpenAI

OpenAI planea permitir una gama más amplia de contenido, incluido contenido erótico, en su common chatbot ChatGPT como parte de su esfuerzo por «tratar a los usuarios adultos como adultos», cube su jefe Sam Altman.

En una publicación en X el martes, Altman dijo que las próximas versiones del common chatbot le permitirían comportarse de una manera más humana, «pero sólo si lo desea, no porque estemos usando maxxing».

La medida, que recuerda a la reciente introducción de dos chatbots sexualmente explícitos por parte de xAI de Elon Musk en Grok, podría ayudar a OpenAI a atraer más suscriptores de pago.

También es possible que intensifique la presión sobre los legisladores para que introduzcan restricciones más estrictas a los compañeros de chatbot.

OpenAI no respondió a las solicitudes de comentarios de la BBC.

Altman dijo que OpenAI había hecho previamente ChatGPT «bastante restrictivo para asegurarnos de que tuviéramos cuidado con los problemas de salud psychological».

Estos se anunciaron cambios en una publicación de weblog de agosto, que ya no aparece en el sitio net de OpenAI.

«Nos damos cuenta de que esto lo hizo menos útil/agradable para muchos usuarios que no tenían problemas de salud psychological, pero dada la gravedad del problema queríamos hacerlo bien», publicó Altman el martes.

Dijo que ChatGPT pronto podría relajar las restricciones «ahora que hemos podido mitigar los graves problemas de salud psychological y tenemos nuevas herramientas».

Añadió: «En diciembre, a medida que implementemos la restricción de edad de manera más completa y como parte de nuestro principio de ‘tratar a los usuarios adultos como adultos’, permitiremos aún más, como contenido erótico para adultos verificados».

Los cambios vienen después. OpenAI fue demandada a principios de este año por los padres de un adolescente estadounidense que se quitó la vida.

La demanda presentada por Matt y Maria Raine, padres de Adam Raine, de 16 años, fue la primera acción authorized que acusa a OpenAI de muerte por negligencia.

La familia incluyó registros de chat entre Adam, quien murió en abril, y ChatGPT que lo muestran explicando que tiene pensamientos suicidas.

En una declaración dada en ese momento, OpenAI le dijo a la BBC que estaba revisando la presentación.

«Expresamos nuestro más sentido pésame a la familia Raine durante este momento difícil», dijo la compañía.

La erótica escrita no requiere verificación de edad en el Reino Unido bajo la Ley de Seguridad en Línea.

Sin embargo, las imágenes pornográficas, incluidas las generadas por IA, requerirían que los usuarios demuestren que son mayores de 18 años.

En Estados Unidos, los críticos dicen que la decisión de OpenAI de permitir el erotismo en la plataforma muestra la necesidad de una mayor regulación a nivel federal y estatal.

«¿Cómo se van a asegurar de que los niños no puedan acceder a las partes de ChatGPT que son sólo para adultos y ofrecen contenido erótico?» dijo Jenny Kim, socia del bufete de abogados Boies Schiller Flexner.

La Sra. Kim está involucrada en una demanda contra Meta que afirma que el algoritmo de Instagram de la compañía daña la salud psychological de los usuarios adolescentes.

«OpenAI, como la mayoría de las grandes tecnologías en este espacio, simplemente utiliza a las personas como conejillos de indias», dijo.

En abril, TechCrunch informó que OpenAI permitía cuentas en las que un usuario se había registrado como menor de edad generar erotismo gráfico.

OpenAI dijo en ese momento que la compañía estaba implementando una solución para limitar dicho contenido.

A encuesta Publicado este mes por el Centro para la Democracia y la Tecnología (CDT), una organización sin fines de lucro, encontró que uno de cada cinco estudiantes informa que ellos o alguien que conocen ha tenido una relación romántica con la IA.

El lunes, el gobernador de California, Gavin Newsom, vetó un proyecto de ley aprobado por la legislatura estatal que habría impedido que los desarrolladores ofrecieran chatbots de IA a los niños, a menos que las empresas pudieran garantizar que el software program no generaría comportamientos dañinos.

Newsom dijo que period «imperativo que los adolescentes aprendan a interactuar de forma segura con los sistemas de IA» en un mensaje que acompañó su veto.

A nivel nacional, la Comisión Federal de Comercio de EE. UU. (FTC) ha iniciado una investigación sobre cómo interactúan los chatbots de IA con los niños.

El mes pasado, en el Senado de los Estados Unidos, se presentó una legislación bipartidista que permitiría a los usuarios de chatbots presentar demandas de responsabilidad contra sus desarrolladores.

El anuncio del señor Altman el martes se produce cuando los escépticos han estado Cuestionando el rápido aumento del valor de las empresas de tecnología de IA..

Los ingresos de OpenAI están creciendo, pero nunca ha sido rentable.

Rob Lalka, profesor de negocios de la Universidad de Tulane, autor de The Enterprise Alchemists, dijo que las principales empresas de inteligencia synthetic se encuentran en una batalla por la participación de mercado.

«Ninguna empresa ha tenido nunca el tipo de adopción que OpenAI vio con ChatGPT», dijo el profesor Lalka a BBC Information.

«Necesitaban seguir impulsando esa curva de crecimiento exponencial, logrando dominar el mercado tanto como pudieran», añadió.