ChatGPT para Adolescentes llegó con una promesa clara sobre la mesa, proteger a los menores de entre 13 y 17 años a través de restricciones de contenido y avisos automáticos que llegan directamente a los padres. Hace pocos días OpenAI presentó esta versión de su chatbot, pensada para reconocer a los usuarios más jóvenes sin obligarles a crear una cuenta nueva ni a tocar ninguna configuración. Todo suena bien sobre el papel, aunque los principales expertos en seguridad infantil piden algo más concreto, pruebas independientes antes de dar por buenos esos filtros.
Lauren Jonas, responsable de juventud y familias de OpenAI, lo explica de forma sencilla. El adolescente no tiene que abrir una cuenta distinta, basta con que el sistema prediga que tiene menos de 18 años, o que el propio usuario lo indique, para que esa se convierta en su experiencia por defecto. La empresa empezó a trabajar en este mecanismo en septiembre del año pasado, poco después de la muerte de Adam Raine, un joven de 16 años cuya familia demandó a la compañía alegando que el chatbot facilitó su suicidio. Ese caso pesa, y mucho, en todo lo que ha venido después.
Junto al lanzamiento llegaron también nuevas notificaciones de seguridad. Si el sistema detecta conversaciones de riesgo sobre trastornos alimentarios en cuentas vinculadas a un adulto, avisará a esa madre o a ese padre. Además, OpenAI actualizó las normas que rigen el comportamiento del modelo con menores. Ahora quedan prohibidos el lenguaje romántico, la dependencia emocional y cualquier insinuación de que el chatbot tiene sentimientos propios. La idea de fondo es empujar a los chicos hacia sus relaciones reales, fuera de la aplicación.
El uso escolar masivo y la apuesta educativa de OpenAI
Los cálculos ayudan a entender el terreno en el que se mueve la compañía. A principios del año pasado, una cuarta parte de los adolescentes estadounidenses ya recurría a ChatGPT para hacer sus tareas del colegio. Con un uso tan extendido, se entiende mejor por qué OpenAI ha decidido redirigir a los menores hacia herramientas como el Modo Estudio o las visualizaciones de datos que ha ido sumando durante el último año, en lugar de bloquearles el acceso a la app sin más.
Link affiliatoLa empresa ya tenía restricciones sobre suicidio, violencia y drogas antes de este lanzamiento. Josh Golin, director ejecutivo de Fairplay, una organización que defiende la seguridad infantil en Internet, recuerda que esas barreras no siempre han funcionado y que además se han ido debilitando con el paso del tiempo. En su opinión, el anuncio va en la dirección correcta, pero le falta algo importante, un mecanismo real de rendición de cuentas que permita comprobarlo con datos concretos.
Dudas sobre el sistema que adivina la edad
Golin y Robbie Torney, responsable de evaluaciones de inteligencia artificial en Common Sense Media, ponen el dedo en la llaga. Cuestionan que el sistema automático de detección de edad sepa distinguir bien, en la práctica, quién es adolescente y quién no. Torney apunta que OpenAI no ha publicado datos sobre la tasa de falsos positivos y falsos negativos de esa tecnología, y recuerda que el sistema no llega a detectar, ni de lejos, a todos los menores que usan la aplicación cada día.
Ese mismo problema ya frenó otras funciones antes. Según Torney, una de las razones por las que la compañía no activó ciertas funciones de contenido erótico para adultos fue precisamente que la tecnología de estimación de edad no identificaba bien a suficientes adolescentes. El experto da por sentado que los propios menores buscarán la manera de saltarse estos filtros, ya sea con una VPN o con métodos más creativos, como pasó cuando Discord probó su propio sistema de verificación de edad.
Fuente
Imagen: softzone.es
Link affiliato