La sécurité est-elle compromise lorsque les étudiants dialoguent avec des chatbots dotés d'intelligence artificielle ?
PODCAST INVITÉ : EdTechnical, saison 3, épisode 4
Auteurs
Cette saison, Libby Hills, financeuse du secteur des technologies éducatives, et Owen Henkel, chercheur en intelligence artificielle, continuent de dialoguer avec des chercheurs, des praticiens et des éducateurs de premier plan sur le sujet. Série de podcasts EdTechnical Ce module porte sur les dernières avancées en matière d'IA dans l'éducation. Il vulgarise les concepts complexes de l'IA pour les rendre accessibles à tous, permettant ainsi aux enseignants de mieux comprendre les résultats de la recherche et de distinguer les informations pertinentes du simple effet de mode.
Des millions d'étudiants étudient désormais avec Chatbots d'IALes inquiétudes grandissent quant aux conséquences des liens affectifs que peuvent tisser des adolescents vulnérables avec l'IA. Des décès tragiques d'adolescents ont relancé le débat sur la protection des jeunes face à des systèmes d'IA qui brouillent la frontière entre outil et compagnon. La Californie vient de poser les premières jalons réglementaires, mais le cadre reste flou et l'IA éducative se retrouve prise entre deux feux. Dans ce court épisode, Libby et Owen analysent le compromis nécessaire entre la mise en place de garde-fous pour la sécurité et la réalisation d'objectifs ambitieux.
Cela a des conséquences qui dépassent le cadre de la Californie : lorsque l’État qui abrite OpenAI, Google et Anthropic fixe les règles, cela a des répercussions sur les salles de classe du monde entier.
Liens
Texte du projet de loi SB 243 : Chatbots compagnons
Message de veto AB 1064
Auteurs