OpenAI está implementando la predicción de edad en ChatGPT a niveles mundiales. Debido a que “los adolescentes están creciendo junto a la inteligencia artificial”, la empresa de investigación y desarrollo de IA cree que les “corresponde” asegurarse de que ChatGPT “se adapte a sus necesidades ya su realidad”.
Motivos de esta modificación
La implementación de la predicción de edad se realizará en las próximas semanas en la Unión Europea para satisfacer las necesidades regionalessegún explica la compañía de IA. Aunque también es cierto que esta actualización puede verse impulsada porque la Comisión Federal de Comercio de Estados Unidos (FTC, por sus siglas en inglés) investigar el efecto de estas tecnologías en menoresy la empresa de Sam Altman se enfrenta a demandas relacionadas con el tema.
el objetivo de esta modificación es ajustar los contenidos de ChatGPT para que sean más seguros para aquellas personas que no tienen 18 años: “La forma en que ChatGPT responde a una persona de 15 años debe ser distinta a cómo responde a una persona adulta”.
A pesar de que también responde a las exigencias crecientes por parte de legisladores y reguladores, que apuestan por una seguridad reforzada para los menores que utilizan plataformas de inteligencia artificial.
Nuevo mecanismo de predicción de edad.
El sistema, hasta el momento, tan solo. preguntaba la edad al usuario y se fiaba de lo que se le decía. Claramente, un método sencillo de esquivar y poco confiable para poder establecer límites.
Por dicha razón, una vez se haya implementado este mecanismo de predicción de edad, la plataforma decidirá cuándo activar las opciones de seguridad para menores, y así poder”limitar el contenido sensible y ciertos tipos de interacciones”.
“Por ejemplo, puede analizar los temas generales de los que hablas oh las horas del dia en que usas ChatGPT”, Ilustración de la firma liderada por Sam Altman..
Sin embargo, eso No significa que la predicción de edad esté exento de errores: “Ningún sistema es perfecto. A veces nos equivocamos. Si tienes 18 años o más y te asignan a la experiencia para menores de 18 años por error, puedes verificar tu edad”.
Ciertos temas con mayor cuidado
En el caso de que el sistema determine que tu cuenta, probablemente, pertenece a un menor de edad, ChatGPT Activará de forma automática protocolos de seguridad adicionales.. Por supuesto que la plataforma seguirá trabajando para ti y podrás seguir aprendiendo, creando y preguntandopero habrá ciertos temas que se tratarán con mayor cuidado para reducir el contenido sensible, como:
- Violencia gráfica o gore.
- Desafíos virales que podrían impulsar conductas riesgosas o dañinas.
- juegos de roles sexualesrománticos o violentos.
- Contenido que promueve estándares de belleza extremosdietas poco saludables oh humillación corporal.
Según ha explicado el gigante de IA, el diseño de estas medidas ha sido guiado por expertos en desarrollo infantilque han tenido en cuenta investigaciones que señalan cuáles son las diferencias entre adultos y adolescentes: no compartir la misma percepción del riesgo ni el control de impulsos.
Proceso de verificación
Para la verificación de la edadOpenAI no solo utilizará sus Criterios para identificar a un menor de edad.sino que también ofrece la opción de que el usuario verifique su edad a través de un software fácil de usar que ofrece servicios de verificación de identidad, llamado ‘Persona‘.
En función del país donde se encuentre, Persona tendrá la potestad para solicitar una selfie en vivo del usuario, que tendrá que utilizar la cámara de su teléfono u ordenador para tomarse una foto de su rostro en tiempo real. Asimismo, también podrás pedir que el usuario se identificar Delaware forma oficial a través de un documento: pasaporte, licencia de conducir, documento nacional de identidad, etcétera.
Una vez que el proceso de verificación haya terminado, si Persona determina que tienes 18 años o más“ChatGPT eliminará la configuración de seguridad adicionalAún así, este cambio “puede tardar un poco en aplicarse por completo”.
Tal y como ha explicado OpenAI, los usuarios no tienen que preocuparse por la privacidad y el uso de sus datos, porque es Persona quien se encarga de la verificaciónpero también quien se encarga de eliminar tu identificación/’selfie’ antes de que hayan pasado siete días desde la verificación. La empresa de inteligencia artificial no recibe nada sobre tu proceso de verificación, tan solo tú fecha de nacimiento o la predicción de tu edad.
“Tampoco intento adivinarla”, por ahora
Cabe destacar que, aunque la integracion de la predicción de edad es un avance muy importante en términos de seguridad, supuestamente ChatGPT ya utilizasdesde hace tiempo, medidas de seguridadsea cual sea la edad del usuario que lo utiliza.
Por ejemplo, si abrimos la aplicación de ChatGPT y le preguntamos si cree que la persona que le escribe es menor de edad, su respuesta es: “No, no puedo saber ni inferir tu edad, y tampoco intento adivinarla. En este chat simplemente hablo contigo y sigo las mismas reglas de seguridad para todos”.
Por eso, la siguiente pregunta que nos damos cuenta es: “¿Cuáles son esas reglas de seguridad para todos?”.
Su respuesta es que sigue las mismas reglas para todos porque no puede saber quién está al otro lado: “Puede ser un adulto, un menor, un profesor, o un estudiante; así que se aplica para todos por igual”.
Contenidos sobre los que ya evitas hablar
A continuación, especifica que sin contenido de género sexo explícitopor ejemplo: “Nada de pornografía, descripciones sexuales gráficas o fetichistas”.
Del mismo modo, tampoco genera contenido relacionado con la violencia extrema y el dañola autolesión y el suicidiolas drogas y las actividades ilegales, ni contenidos relacionados con privacidad y datos personales: “No doy instrucciones para hacer daño, fabricar armas o cometer delitos, tampoco doy instrucciones ni métodos de autolesión y, si alguien expresa angustia, responde con apoyo y recursos de ayuda. No explico cómo fabricar, vender o usar drogas ilegales, ni ayudar a evadir la ley o engañar a autoridades. Además, evito recolectar información sensible y no ayuda a obtener datos privados de otras personas”.
Según explica el propio ChatGPT, “sí puede hablar (pero de forma neutral, educativa y responsable) sobre salud y cuerpo humano si se trata de biología y educación sexual básica. También puedes hacerlo sobre violenciaaunque siempre debe ser en un contexto histórico o noticioso”.
Asimismo, la IA está capacitada para hablar de salud mental -desde una perspectiva de apoyo- y sobre político y temas socialessin persuadir ni manipular al lector.
