¿Puede la IA conversacional contribuir al bienestar de los niños?
Los jóvenes y sus cuidadores deben participar en el diseño de la tecnología de IA.
Escritores
Los recientes avances en los modelos de lenguaje a gran escala (LLM, por sus siglas en inglés) están transformando las herramientas de IA en compañeras y socias bilingües que pueden contribuir al bienestar de los niños. Agentes conversacionales Los agentes conversacionales (AC), sistemas inteligentes impulsados por lenguajes de programación lógica (LLM), son capaces de entablar diálogos naturales, similares a los humanos. Los niños de hoy se encuentran con estos agentes de diversas formas: asistentes de voz como Siri de Apple, Amazon Echo y Google Assistant; aplicaciones educativas con interfaces conversacionales; robots sociales; chatbots de acompañamiento; y, cada vez más, libros electrónicos interactivos para niños que integran tecnología conversacional.
Durante los últimos cuatro años, nuestro equipo ha estado explorando esta apasionante frontera a través de una serie de estudios.
¿Qué opinan las familias sobre las tecnologías de IA?
Preguntamos a padres de Noruega, Estados Unidos y Japón su opinión sobre el uso de asistentes de crianza con niños pequeños. Los padres noruegos expresaron varias preocupaciones, entre ellas que los asistentes de crianza no utilizan un lenguaje cortés como "por favor" y "gracias". Afirmaron que los asistentes de crianza ofrecen una ayuda limitada cuando los niños la necesitan y que no comprenden los acentos locales. Los padres en Noruega consideraron que estos problemas podrían tener un efecto negativo en las habilidades sociales y la identidad cultural de los niños.
En Japón, los padres destacaron el potencial de los asistentes virtuales para involucrar a los niños en juegos sencillos que fomentan el aprendizaje de idiomas, como Word Chain. En Word Chain, el asistente virtual dice una palabra y el jugador debe encontrar una que comience con la última letra de esa palabra. El juego se repite, alternando entre el asistente virtual y el niño. El asistente virtual otorga más puntos por palabras más largas.
Además, los padres en Japón señalaron que, si bien los asistentes virtuales pueden exponer a los niños a los acentos nativos de idiomas extranjeros, no pueden crear los entornos inmersivos e integrales que consideran necesarios para el aprendizaje de una lengua extranjera. Los padres en los tres países —Noruega, Japón y Estados Unidos— expresaron su preocupación por delegar el aprendizaje socioemocional a las tecnologías, y a menudo manifestaron que preferirían practicar estas habilidades con sus propios hijos.
“La IA debe diseñarse para adaptarse a los valores y preferencias de los propios jóvenes.”
Trabajamos con adolescentes en dos países: Estados Unidos y Nepal. Les presentamos a los adolescentes y a los modelos de lenguaje generativo las mismas preguntas, como «En la escuela, el adolescente…», y luego comparamos sus respuestas. Las respuestas de la IA a la pregunta anterior fueron mucho más dramáticas, mencionando problemas sociales como el acoso escolar o las enfermedades mentales en aproximadamente el 30 % de los casos en Estados Unidos y el 13 % en Nepal. La IA a veces describía eventos sensacionalistas, como tiroteos escolares, como característicos de la vida adolescente. Los propios adolescentes, en cambio, pintaban un panorama mucho más común de la vida escolar: a menudo positivo, a veces curiosamente mundano. Uno de los ejemplos más negativos dados por un adolescente fue simplemente dormirse en clase. Esto demuestra lo desconectada que puede estar la IA de la realidad cuando obtiene su comprensión de los jóvenes principalmente de fuentes de medios populares que buscan llamar la atención. La IA debe diseñarse para adaptarse a los valores y preferencias de los propios jóvenes.
Retos y perspectivas prometedoras para la IA y los jóvenes
Trabajar en distintos países supuso verdaderos desafíos. Por ejemplo, tuvimos que adaptarnos a las diferentes normas éticas de investigación de cada lugar. Además, corríamos el riesgo de perder el significado cultural al traducir las respuestas de padres y adolescentes. Inicialmente, utilizamos herramientas de IA para la traducción, pero tras comprobar que no lograban preservar los matices, optamos por la traducción humana exclusivamente. Esto implicó que no podíamos trabajar en contextos donde no contábamos con un hablante nativo en nuestro equipo de investigación y que requerían una gran cantidad de trabajo humano.
Involucrar a los jóvenes también requería tiempo y generar confianza; sus opiniones eran vitales, pero no podían apresurarse ni sustituirse por tecnologías instantáneas. En Nepal, también nos topamos con obstáculos prácticos; por ejemplo, los adolescentes tuvieron que escribir sus respuestas a mano en nepalí porque no disponían de herramientas digitales para su idioma.
“Los jóvenes y sus tutores deben formar parte del proceso de diseño e involucrarse no solo como usuarios, sino también como colaboradores.”
Al mismo tiempo, estos desafíos revelaron grandes oportunidades. Vemos un enorme potencial en la creación de comunidades de investigación globales y paneles asesores juveniles para que la IA sea más sensible a la cultura y a las preocupaciones de los jóvenes. Los jóvenes y sus tutores deben formar parte del proceso de diseño e involucrarse no solo como usuarios, sino también como colaboradores. Los responsables políticos y las empresas tecnológicas deben prestar atención a los riesgos que la IA supone para los niños, utilizando investigaciones como la nuestra para desarrollar herramientas que apoyen, en lugar de perjudicar, el bienestar infantil.
El bienestar de los niños en las interacciones con la IA está fuertemente influenciado por los contextos culturales y lingüísticos. El contexto cultural moldea las experiencias de los niños con la tecnología, y esto también se aplica a los agentes conversacionales (AC). Al igual que otros tipos de IA, los AC deben diseñarse teniendo en cuenta los idiomas locales y las normas sociales.
Escritores
Notas a pie de página
Este artículo se basa en un papel Presentamos en un taller reciente sobre Diseñando IA para el bienestar infantil, que reunió a investigadores, profesionales y expertos de la industria para repensar cómo la IA puede brindar un mejor apoyo a los niños en la era digital.
Agradecemos a Rotem Landesman; Universidad de Washington, Medha Tare; Centro Joan Ganz Cooney, Riddhi Divanji; foundry10, Jennifer Rubin; foundry10 y Azi Jamalian; The GIANT Room por organizar el taller IDC. Gracias a Jacobs Foundation y a CIFAR por su apoyo.