OpenAI lanza ChatGPT para adolescentes... cuatro años después de que los adolescentes empezaran a usar ChatGPT

OpenAI lanzó el 18 de agosto ChatGPT for Teens, una experiencia dedicada para usuarios de 13 a 17 años que llega unos cuatro años después de que los adolescentes se convirtieran en uno de los mayores grupos de usuarios de ChatGPT. El producto incluye restricciones de contenido más duras, controles parentales y un Study Mode que se niega a dar las respuestas hechas. Y la inscripción no es opcional: si el sistema de predicción de edad de OpenAI estima que un usuario es menor de 18, o si él mismo lo declara, pasa automáticamente a la experiencia adolescente.

TechCrunch lo resumió sin rodeos: es un ChatGPT más seguro “años después de que los adolescentes empezaran a usarlo”, y después de que ChatGPT superara los 900 millones de usuarios semanales sin salvaguardas específicas para menores.

Qué cambia de verdad

La experiencia adolescente limita de forma estricta el contenido sobre autolesiones, suicidio y temática romántica o sexual. ChatGPT tiene prohibido usar lenguaje romántico o apelativos cariñosos con menores, y recibe instrucciones reforzadas de no insinuar que tiene sentimientos, conciencia o emociones — una respuesta directa a los casos de apego parasocial que han llevado a empresas de IA a los tribunales.

Study Mode es la pieza educativa central. En lugar de producir respuestas terminadas, guía al adolescente con preguntas y razonamiento paso a paso, con cuestionarios y visualizaciones de aprendizaje. Si alguien intenta que le hagan los deberes, ChatGPT lo detecta y lo redirige a Study Mode. Los padres disponen de herramientas de supervisión: notificaciones de seguridad, “Quiet Hours” en las que ChatGPT no está disponible y control sobre si Study Mode viene activado por defecto.

Por qué ahora

El momento no es ningún misterio. OpenAI afronta varias demandas por la seguridad de sus chatbots, incluidos casos vinculados a suicidios de adolescentes, y los reguladores de ambos lados del Atlántico han convertido el binomio menores-IA en prioridad. Meta está literalmente en los tribunales esta misma semana, defendiéndose de una causa de 29 estados por productos diseñados para enganchar a jóvenes. Lanzar protecciones antes de que un juez las ordene es la versión más barata de este trabajo.

La duda es si aguantará. La predicción de edad se puede burlar y, como señala TechCrunch, no está claro cuánto costará escapar del sistema a un adolescente que no quiera cooperar. Un chaval de 15 años con una cuenta nueva y una fecha de nacimiento falsa ha vencido hasta ahora todos los controles de edad que ha construido internet.

Aun así, las decisiones de diseño importan. Meter a los menores por defecto en un modo que enseña en vez de responder, y prohibir de raíz el roleplay emocional, fija un listón con el que ahora se medirá el resto del sector: Character.AI, Meta AI, Gemini.

Fuentes

• TechCrunch