Common Sense Media, una organización sin ánimo de lucro que evalúa aplicaciones, servicios y entretenimiento con un enfoque en la seguridad de los jóvenes, lanzó una crítica contundente contra ChatGPT for Teens, una versión de la inteligencia artificial de OpenAi adaptada de forma automática para usuarios de 13 a 17 años, enfocada en fomentar el aprendizaje y proteger la salud mental de los jóvenes.
Según la organización, esta versión del popular modelo de lenguaje representa un 'riesgo inaceptable'. En un comunicado, la organización afirmó que las protecciones para adolescentes que ofrece la función "no cumplen con lo prometido por la compañía". La evaluación de Common Sense Media concluyó que ChatGPT "no envía alertas a los padres cuando debería", no ofrece "la ayuda adecuada en situaciones de crisis" y "sigue haciendo los deberes de los niños".
ChatGPT for Teens fue introducido en agosto con medidas de seguridad específicas para este grupo de edad, diseñado para ayudar a los estudiantes en su aprendizaje, sin "hcaerles la tarea" y priorizando el proceso pedagógico. A pesar de las intenciones educativas detrás de la herramienta, Common Sense Media ha expresado serias preocupaciones sobre su implementación.
La organización señala que, aunque existen salvaguardas, estas no son suficientes para mitigar los riesgos potenciales que la inteligencia artificial podría representar para los adolescentes. "La seguridad de los jóvenes debe ser una prioridad, y actualmente, ChatGPT para adolescentes no cumple con este estándar", afirmó la organización.
Por qué importa
La crítica de Common Sense Media subraya un problema creciente en la industria de la inteligencia artificial: la necesidad de equilibrar la innovación con la seguridad, especialmente cuando se trata de usuarios jóvenes. La preocupación por la exposición de los adolescentes a contenidos inapropiados y la potencial manipulación de la información son temas críticos que requieren atención urgente.
Este tipo de advertencias podría influir en las decisiones de padres, educadores y reguladores sobre el uso de herramientas de inteligencia artificial en entornos educativos. Además, plantea preguntas sobre la responsabilidad de las empresas tecnológicas en la protección de usuarios vulnerables y la eficacia de las medidas de seguridad implementadas en productos dirigidos a menores.
Qué sigue
OpenAI podría verse obligada a revisar sus estrategias y medidas de seguridad para ChatGPT para adolescentes en respuesta a estas críticas. Es probable que la empresa deba considerar mejoras en sus algoritmos de moderación de contenido y en la transparencia de sus procesos para ganar la confianza de organizaciones preocupadas por la seguridad de los jóvenes.
Además, se espera que los reguladores de tecnología en diferentes regiones comiencen a examinar más de cerca cómo las herramientas de inteligencia artificial interactúan con los usuarios jóvenes. Esto podría llevar a la implementación de nuevas normativas que obliguen a las empresas a adoptar medidas más estrictas para proteger a los menores.
Contexto
OpenAI, la empresa detrás de ChatGPT, ha estado a la vanguardia del desarrollo de inteligencia artificial en los últimos años. Fundada en 2015, la compañía se ha destacado por su enfoque en la creación de modelos de lenguaje avanzados que pueden generar texto coherente y relevante a partir de entradas de usuario.
ChatGPT, uno de sus productos más conocidos, ha sido adoptado en diversas industrias para tareas que van desde el servicio al cliente hasta la educación. Sin embargo, su uso en entornos educativos ha sido objeto de escrutinio debido a preocupaciones sobre la precisión de la información y la seguridad de los datos de los usuarios.
