OpenAI ha cambiado de idea de nuevo. Tras cancelar Sora y retirarse de la generación de vídeo, ahora confirman que han paralizado de forma definitiva su chatbot erótico. La IA para adultos que iba a marcar un punto de inflexión en el uso de sus inteligencias artificiales no llegará a existir.
Algo está pasando en OpenAI en los últimos días. Ya sea porque Sam Altman ha entrado en un punto de no retorno sobre su ambición en la IA o porque quieren reconducir su empresa de una manera distinta, la realidad es que OpenAI está derribando puentes. Y lo hace acabando con algunos de sus proyectos más sensibles o polémicos. Su chatbot erótico, el cual había despertado muchas miradas críticas, no llegará a existir.
El chatbot sexual no verá la luz
Cuando OpenAI anunció que trabajaba en una IA capaz de entablar conversaciones eróticas, hubo muchas dudas sobre cómo estaba gestionando el proyecto la empresa. Por un lado, resultaba extraño, dado que OpenAI siempre ha sido muy cuidadosa con la forma en la que aborda el contenido para adultos. Por otro, era evidente que se iban a encontrar con multitud de desafíos.
Ahora la empresa confirma el final del proyecto de manera “indefinida” y explica que se va a concentrar en sus productos principales. La explicación es similar a la que dieron ayer cuando anunciaron el final de Sora, aunque en este caso hay más puntos de interés que explican el motivo por el que han tomado esta decisión. Así, indican que habían generado preocupación tanto entre miembros del equipo como por parte de inversores, quienes no tenían claro que la sociedad fuera a necesitar una IA sexualizada.
De los retrasos a la cancelación
Con anterioridad, la IA sexual de OpenAI se había encontrado con retrasos. OpenAI no encontró la tecla que tenía que tocar para que el proyecto naciera de una manera adecuada. Se encontraron con muchas dificultades. y, después de los retrasos, las conversaciones internas que han tenido han derivado en la cancelación. El modo adulto de ChatGPT, por decirlo de alguna manera, podría haber generado muchos problemas.
Desde OpenAI están de acuerdo con las preocupaciones que se habían generado, como que hubiera personas que entablaran una relación insana con las IA o que niños pudieran exponerse a contenido sexual. algunos Los empleados han criticado duramente. que OpenAI estaba trabajando en este proyecto y han afirmado que hubiera sido algo con lo que tener cuidado. Recuerdan que la IA no debe sustituir a los amigos, las familias o las relaciones. Además, confiesan que se han encontrado muchas dificultades técnicas que no han podido superar.
Entrenar a la IA para que estuviera abierto al contenido para adultos cuando, de forma tradicional, OpenAI ha hecho lo contrario, se convirtió en un reto casi imposible. Asimismo, ponen ejemplos claros de la presencia de elementos que tenían que asegurarse de que quedaran totalmente fuera de la IA por muy adulta que fuera, como las relaciones con menores o con animales. Los contextos ilegales y más oscuros del contenido para adultos no podrían haber tenido cabida en este chatbot sexual y la dificultad de garantizarlo exponía a OpenAI un serio problema.
Tal y como afirman algunos inversores, los riesgos a los que se exponía la empresa con este proyecto eran mayores a lo que podían conseguir con el mismo. Aunque se cree que el acceso a este chatbot erótico hubiera requerido verificación de edad, quedaba claro que no iba a ser suficiente control para ponerle límites y que no generase problemas.
Por todo ello, y en este caso con más lógica que la decisión que tomó ayer al rechazar el contrato con DisneyOpenAI ha decidido retirarse de la carrera para tener un chatbot erótico. Aunque es posible que otra empresa de IA tenga una idea similar, OpenAI no participará en ello.
