Le data scientist qui place l'humain au cœur de l'IA éducative
Roberto Martinez-Maldonado accorde la priorité à l'éthique, à la confidentialité et à la sécurité dans le développement de l'IA pour les salles de classe.
Interviewé:
Interview par :
Roberto Martinez-Maldonado est chercheur en sciences des données à l'Université Monash en Australie. Il étudie les technologies qui utilisent l'intelligence artificielle (IA) pour soutenir les enseignants. Il explore également les questions éthiques liées à l'utilisation de l'IA en classe. Annie Brookman-Byrne s'entretient avec Roberto sur la manière dont l'IA peut être conçue pour préserver l'autonomie et la sécurité des élèves et des enseignants, ainsi que sur les nombreux défis à relever.
Annie Brookman-Byrne : Quelles technologies intégrez-vous dans les salles de classe, et quelles sont les questions éthiques soulevées ?
Roberto Martinez-Maldonado : Mes recherches visent à approfondir la compréhension, par la société, des enjeux sociaux et techniques liés à l’utilisation de l’IA dans l’éducation. Je collabore avec des enseignants, des élèves et d’autres acteurs du secteur éducatif afin de concevoir des tableaux de bord d’analyse des apprentissages utilisables dans les environnements d’apprentissage physiques.
Avec mon équipe, j'ai déployé différents types de capteurs et d'algorithmes d'IA dans des salles de classe et des centres de formation des enseignants. Par exemple, nous avons utilisé capteurs de positionnement qui suivent et détectent les utilisations les plus efficaces de l'espace de la classe par les enseignants. Dans le cadre de nos efforts pour apprendre aux élèves à gérer le stress, nous avons utilisé des bracelets qui mesurent leur niveau de stress physiologique pendant les activités d'apprentissage. Nous avons également utilisé des appareils audio personnels, connectés à des services d'IA de pointe, pour transcrire automatiquement les conversations des élèves et déterminer si celles-ci témoignent du développement de pratiques de travail d'équipe efficaces. Notre objectif est d'utiliser l'IA pour recueillir des données qui incitent les enseignants à réfléchir à leurs pratiques pédagogiques et à proposer des contenus plus pertinents. Réactions aux étudiants.
Naturellement, l'intégration de telles technologies peut soulever des questions d'éthique, notamment si elles sont perçues ou utilisées comme outils de surveillance ou d'évaluation des enseignants. Je suis profondément attachée à la conception d'interfaces en collaboration avec les enseignants et les élèves, afin de garantir que les outils pédagogiques basés sur l'IA reflètent leurs valeurs et leurs pratiques. J'espère ainsi que ces technologies en constante évolution resteront des outils de soutien, préservant la dignité des élèves et des enseignants. agence, plutôt que de constituer des menaces ou de tenter de se substituer à la dimension humaine irremplaçable de l'éducation.
ABB: Quels sont les avantages et les inconvénients potentiels de l'IA générative, tels que : ChatGPT?
RMM : L’IA entre dans sa deuxième phase d’innovation. L’IA générative, et notamment les modèles de langage à grande échelle, ouvre incontestablement la voie à de nouvelles méthodes d’analyse des données précieuses des élèves. Par exemple, les technologies d’IA émergentes peuvent analyser les dialogues oraux en contexte d’apprentissage, grâce à la transcription et à l’analyse automatiques. Ces tâches prenaient auparavant des heures aux chercheurs. Désormais, nous simplifions ce processus afin d’offrir aux élèves et aux enseignants des informations autrefois réservées aux chercheurs. Fournir un résumé des conversations des élèves lors des différentes phases d’une activité d’apprentissage peut susciter la réflexion et faciliter l’évaluation formative. Les enseignants peuvent ainsi identifier des tendances dans leurs classes et utiliser ces informations pour fournir un retour d’information pertinent ou adapter leurs pratiques afin d’aider les élèves à atteindre les objectifs d’apprentissage visés.
Cependant, cette nouvelle vague d'IA n'est pas sans inconvénients. Les outils d'IA générative influencent déjà les pratiques d'évaluation. De nombreux outils sont disponibles gratuitement, et les apprenants les utilisent souvent sans bien comprendre leurs limites ni leur impact potentiel sur leur parcours d'apprentissage. Si l'IA peut offrir des outils performants qui améliorent nos capacités, ces technologies risquent aussi de devenir des instruments de contrôle et de surveillance, déresponsabilisant à la fois les apprenants et les enseignants.
« Si l’IA peut offrir des super-outils qui améliorent nos capacités, ces technologies ont aussi le potentiel de servir d’instruments de contrôle et de surveillance, privant ainsi les apprenants et les éducateurs de leur pouvoir. »
ABB: Quels sont les autres défis majeurs liés à l'intégration de l'IA dans l'éducation ?
RMM : L’un des principaux défis consiste à interpréter les résultats de l’IA. Si l’IA peut suggérer ou prédire des actions d’apprentissage, la logique des algorithmes sous-jacents à certains choix reste souvent opaque, ce qui donne à de nombreux systèmes d’IA l’apparence de mystérieuses boîtes noires.
Un autre défi consiste à trouver un juste équilibre entre l'apprentissage personnalisé et le maintien d'un certain degré de standardisation afin que chacun ait accès aux mêmes opportunités d'apprentissage.
L’utilisation des données collectées par l’IA soulève également des inquiétudes. Comment garantir l’intégrité de ces données lorsqu’elles sont utilisées à des fins d’évaluation ? Par ailleurs, alors que les plateformes éducatives continuent de collecter et de gérer d’énormes quantités de données sur les apprenants, comment assurer une utilisation éthique de ces informations et protéger la confidentialité et la sécurité des données des enseignants et des apprenants ?
L'intelligence artificielle comporte des biais inhérents liés à la culture, au genre et au statut socio-économique. Il est essentiel de remédier à ce problème afin de garantir l'équité et la justice dans nos systèmes éducatifs.
Par ailleurs, il est primordial de parvenir à une synergie entre les enseignants et les outils d'IA. Il est crucial que les technologies d'IA soutiennent les éducateurs plutôt que de les remplacer, d'autant plus que les pressions économiques pourraient entraîner l'automatisation de divers processus éducatifs, risquant ainsi de fragiliser le rôle des enseignants.
« Il est crucial que les technologies d'IA soutiennent les éducateurs, plutôt que de les remplacer. »
ABB: Comment répondez-vous à ces défis avec votre approche centrée sur l'humain, et que faut-il faire de plus ?
RMM : Les jeunes apprenants d’aujourd’hui sont confrontés à un avenir incertain et en constante évolution. Alors que l’IA continue de remodeler le monde du travail, il devient impératif de concevoir les systèmes d’éducation en tenant compte de cette incertitude. Je suis fermement convaincu de la nécessité d’une approche centrée sur l’humain pour intégrer, concevoir et étudier l’IA dans l’éducation. C’est pourquoi j’ai établi des partenariats solides avec les acteurs du secteur éducatif. Ensemble, nous veillons à ce que les futures applications d’IA soient co-développées en harmonie avec les besoins et les aspirations éducatifs réels. Je m’assure que les points de vue des enseignants et des apprenants soient pris en compte lors du développement des interfaces homme-IA.
Dans les secteurs de l'aviation et de la santé, par exemple, les contrôles externes garantissant la fiabilité des systèmes sont monnaie courante. De tels mécanismes n'ont pas encore été mis en place pour l'IA. La première étape essentielle pour l'ensemble du secteur consiste à élaborer des codes de conduite éthiques pour l'IA, mais il est également impératif de mettre en place des mécanismes empêchant que les systèmes d'IA déployés dans les écoles ne compromettent l'autonomie des enseignants et des élèves.
« Prédire l’avenir est un défi, et il est crucial que les personnes concernées par l’IA dans l’éducation jouent un rôle actif pour influencer son évolution. »
ABB: Êtes-vous optimiste quant à l'avenir de ce domaine ?
RMM : Compte tenu de la longue liste, non exhaustive, des défis auxquels le domaine est confronté, il pourrait sembler que je sois peu optimiste quant à l’avenir. On pourrait même dire que je suis partagé. Je reconnais que nous vivons dans une société hyperconnectée, qui se fragmente de plus en plus. S’attendre à ce que les gouvernements parviennent à un consensus sur le développement optimal de l’IA afin de minimiser les dommages sociétaux serait peut-être trop naïf. Des partenariats solides entre le secteur industriel, les éducateurs, les familles et les chercheurs sont essentiels pour façonner proactivement l’avenir que nous souhaitons, plutôt que de simplement réagir à chaque nouvelle innovation en IA. Il est difficile d’envisager ce que l’avenir nous réserve. Prédire l’avenir est un défi, et il est crucial que les personnes concernées par l’IA dans l’éducation jouent un rôle actif pour en influencer le cours.
Notes
Roberto Martinez-Maldonado Roberto Martinez-Maldonado est maître de conférences en analyse de l'apprentissage et interaction homme-machine à la faculté des technologies de l'information de l'université Monash de Melbourne. Ses recherches portent sur la collaboration avec les acteurs du secteur de l'éducation pour élaborer des stratégies et promouvoir les technologies numériques destinées à soutenir l'enseignement et l'apprentissage dans les espaces physiques et numériques. Jacobs Foundation Chercheur associé 2021-2023.
Cette interview a été modifiée pour plus de clarté.
