La compañía detalló en una entrada de blog que muchas de las características de este nuevo modo están orientadas a garantizar la seguridad. El chatbot limitara las conversaciones de alto riesgo relacionadas con autolesiones, violencia, trastornos alimenticios y contenido sexual explícito. En algunos casos, ChatGPT notificará a los adultos que hayan activado los controles parentales. Asimismo, el nuevo modo reforzará las medidas que impiden que el chatbot sugiera poseer sentimientos personales.
Además, el modo diseñado para adolescentes incorpora nuevas herramientas de estudio y medidas de seguridad para los estudiantes. Según indicó OpenAI, si el chatbot identifica que un adolescente está realizando tareas escolares, responderá a las solicitudes con preguntas adicionales en lugar de simplemente proporcionar respuestas directas.
La compañía exige que los usuarios indiquen su edad al registrarse en ChatGPT, estableciendo que deben tener al menos 13 años. Sin embargo, ha habido casos de usuarios que han falseado su edad. OpenAI monitorea más de 2000 indicadores para determinar si un usuario tiene menos de 18 años; en tal caso, el chatbot activa automáticamente el modo apropiado.
Un representante de la empresa mencionó que los indicadores de edad, que pueden incluir patrones de inicio de sesión y antigüedad de la cuenta, son “mínimamente invasivos para la privacidad”.
OpenAI, que requiere el consentimiento parental para el uso del chatbot por parte de adolescentes, ha enfrentado un aumento en la presión respecto a la seguridad, la salud mental y el desarrollo de sus usuarios más jóvenes. Cada vez más familias han demandado a la empresa, alegando que sus hijos fueron expuestos a contenido perjudicial del chatbot, lo que llevó a incidentes de autolesiones o suicidios.
En junio, Florida se convirtió en el primer estado en demandar a OpenAI, acusando a la empresa de falsear la seguridad de su plataforma en relación con los menores.
Grupos de padres en Nueva York, Los Ángeles y otras ciudades están instando a las escuelas a pausar temporalmente la implementación de productos de inteligencia artificial para los estudiantes, preocupados de que los chatbots comprometan el aprendizaje. Estos sistemas a menudo generan desinformación y pueden facilitar el plagio. Expertos en educación alertan que las herramientas de inteligencia artificial podrían obstaculizar el pensamiento crítico entre los jóvenes.
En su comunicación, OpenAI argumentó que su nuevo modo de estudio es una herramienta educativa adicional para adolescentes. “Creemos que la IA debería aumentar las oportunidades educativas, por lo que diseñamos ‘ChatGPT para adolescentes’ para apoyar en los momentos fuera del aula, cuando la asistencia no siempre está disponible, mientras manteniéndolos involucrados en un aprendizaje activo y colaborativo”, señalaron en su blog.
La estrategia de OpenAI al adaptar ChatGPT para adolescentes sigue un patrón similar al utilizado por las plataformas de redes sociales, que han desarrollado modos específicos para jóvenes con restricciones de seguridad, pero continúan promoviendo la utilización de la aplicación. Estas nuevas funciones frecuentemente dependen de los controles parentales y supervisión, lo cual ha sido criticado por defensores de la seguridad infantil y legisladores, al considerar que esto desplaza la responsabilidad por eventuales daños hacia las empresas.
El desafío de la verificación de edad sigue siendo un problema para las empresas tecnológicas, debido a la facilidad con que se pueden eludir los controles.
(Se ha presentado una demanda contra OpenAI y Microsoft por parte de un medio de comunicación por presunta violación de derechos de autor sobre contenido periodístico relacionado con los sistemas de IA; ambas compañías han negado estas acusaciones).
Colaboró en la redacción Natasha Singer. Cecilia Kang cubre tecnología y regulación desde Washington y ha escrito sobre el tema durante más de dos décadas.
