La empresa de inteligencia artificial (IA) OpenAI anunció el martes el lanzamiento global de ChatGPT for Teens (ChatGPT para adolescentes), una nueva modalidad en la que el chatbot limita automáticamente determinadas conversaciones para proteger mejor a los usuarios jóvenes y ofrece controles parentales.
Según la compañía, este nuevo chatbot tiene las mismas capacidades que el tradicional, pero está "diseñado para ayudar a los adolescentes a aprender, resolver problemas y explorar nuevas ideas".
Además, limitará las conversaciones de alto riesgo relacionadas con autolesiones, violencia, trastornos alimentarios y contenido sexual explícito o gráfico.
En algunos casos, ChatGPT envía alertas a los adultos que hayan optado por activar los controles parentales y las notificaciones.
No obstante, los controles parentales no permiten que el padre, la madre o el tutor lea o supervise las conversaciones del adolescente.
"Si OpenAI envía una notificación de seguridad, solo comparte la información necesaria para proteger el bienestar del joven", precisa el comunicado.
Lea también: OpenAI frena nuevo modelo de IA por considerarlo un riesgo de ciberseguridad
La nueva modalidad también ofrece "recordatorios de tareas" que pueden sugerir el uso del modo de estudio y ayudar a completar las asignaciones paso a paso, en lugar de proporcionar la respuesta en la primera consulta.
Para activar esta nueva función, la empresa utiliza más de 2.000 señales, como los horarios habituales de inicio de sesión, para detectar si un usuario es menor de 18 años. En ese caso, el chatbot activará automáticamente este modo para adolescentes.
Este lanzamiento, con enfoque educativo y de seguridad, llega en un momento en el que OpenAI enfrenta una presión cada vez mayor en relación con la salud mental y el desarrollo de sus usuarios más jóvenes.
Grupos de padres en ciudades como Nueva York y Los Ángeles están presionando a las escuelas para que detengan la implementación de productos de IA por temor a que obstaculicen el pensamiento crítico.
