Lo scienziato dei dati che mette gli esseri umani al centro dell'intelligenza artificiale applicata all'istruzione.
Roberto Martinez-Maldonado sta dando priorità all'etica, alla privacy e alla sicurezza nello sviluppo dell'intelligenza artificiale per le aule scolastiche.
Intervistato:
Intervista di:
Roberto Martinez-Maldonado è un ricercatore di scienza dei dati presso la Monash University in Australia. Roberto studia le tecnologie che utilizzano l'intelligenza artificiale (IA) a supporto degli insegnanti. Si occupa anche di questioni etiche legate all'uso dell'IA nelle aule scolastiche. Annie Brookman-Byrne ha intervistato Roberto su come l'IA possa essere progettata per tutelare l'autonomia e la sicurezza di studenti e insegnanti, e sulle numerose sfide da superare.
Annie Brookman-Byrne: Quali tecnologie state integrando nelle aule scolastiche e quali sono le problematiche etiche?
Roberto Martinez-Maldonado: Attraverso la mia ricerca, miro ad approfondire la comprensione da parte della società delle problematiche sociali e tecniche legate all'uso dell'IA nell'istruzione. Collaboro con insegnanti, studenti e altri soggetti interessati al settore educativo per progettare dashboard di analisi dell'apprendimento utilizzabili in ambienti di apprendimento fisici.
Con il mio team, ho implementato vari tipi di sensori e algoritmi di intelligenza artificiale in aule e contesti di formazione degli insegnanti. Ad esempio, abbiamo utilizzato sensori di posizionamento che tracciano e rilevano gli usi più efficaci dello spazio in classe da parte degli insegnanti. Nel nostro impegno per trovare modi per insegnare agli studenti come affrontare lo stress, abbiamo utilizzato braccialetti che misurano i livelli di stress fisiologico degli studenti durante le attività di apprendimento. Abbiamo anche utilizzato dispositivi audio personali abbinati a servizi di intelligenza artificiale all'avanguardia per trascrivere automaticamente le conversazioni degli studenti e determinare se tali conversazioni mostrano lo sviluppo di pratiche di lavoro di squadra efficaci. Il nostro obiettivo è utilizzare l'IA per raccogliere prove che ispirino gli insegnanti a riflettere sulle proprie pratiche didattiche e a fornire strumenti più utili. feedback agli studenti
Naturalmente, l'integrazione di tali tecnologie può sollevare preoccupazioni etiche, soprattutto se queste vengono percepite o utilizzate come strumenti di sorveglianza o valutazione degli insegnanti. Mi impegno profondamente a progettare interfacce che coinvolgano educatori e studenti, garantendo che gli strumenti didattici basati sull'intelligenza artificiale riflettano i loro valori e le loro pratiche. Spero che questo contribuisca a far sì che queste tecnologie in rapida evoluzione rimangano strumenti di supporto, preservando l'integrità di studenti e insegnanti. agenzia, piuttosto che rappresentare una minaccia o tentare di sostituire l'insostituibile dimensione umana dell'educazione.
ABB: Quali sono i potenziali vantaggi e le preoccupazioni relative all'intelligenza artificiale generativa, come ad esempio ChatGPT?
RMM: L'intelligenza artificiale sta entrando nella sua seconda ondata di innovazione. L'IA generativa, in particolare i modelli linguistici di grandi dimensioni, sta indubbiamente aprendo la strada a nuovi metodi per analizzare i preziosi dati degli studenti. Ad esempio, le tecnologie emergenti di IA possono analizzare il dialogo parlato in contesti di apprendimento, attraverso la trascrizione automatica e l'analisi automatizzata. In passato, questi compiti richiedevano ore ai ricercatori. Ora, stiamo semplificando questo processo per fornire a studenti e insegnanti informazioni che un tempo erano disponibili solo ai ricercatori. Fornire un riepilogo delle conversazioni degli studenti durante le fasi di un'attività di apprendimento potrebbe stimolare la riflessione e facilitare la valutazione formativa. Gli insegnanti potrebbero individuare schemi ricorrenti nelle loro classi e utilizzare queste informazioni per offrire feedback mirati o adattare le proprie pratiche per aiutare gli studenti a raggiungere i risultati di apprendimento desiderati.
Tuttavia, questa nuova ondata di IA non è priva di inconvenienti. Gli strumenti di IA generativa stanno già influenzando le pratiche di valutazione. Numerosi strumenti sono liberamente disponibili e gli studenti spesso li utilizzano senza una chiara comprensione dei loro limiti o del potenziale impatto sui loro percorsi di apprendimento. Se da un lato l'IA può offrire strumenti potentissimi che potenziano le nostre capacità, dall'altro queste tecnologie hanno anche il potenziale di agire come strumenti di controllo e sorveglianza, privando di potere sia gli studenti che gli insegnanti.
“While AI can offer super-tools that enhance our capabilities, these technologies also have the potential to act as instruments of control and surveillance, disempowering both learners and educators.”
ABB: Quali sono le altre sfide principali nell'integrazione dell'IA nell'istruzione?
RMM: Una delle principali sfide è interpretare gli output dell'IA. Sebbene l'IA possa suggerire o prevedere azioni di apprendimento, la logica degli algoritmi alla base di determinate scelte spesso rimane opaca, facendo apparire molti sistemi di IA come misteriose scatole nere.
Un'altra sfida consiste nel bilanciare efficacemente l'apprendimento personalizzato con il mantenimento di un certo grado di standardizzazione, in modo che tutti abbiano accesso alle stesse opportunità di apprendimento.
Esistono anche preoccupazioni riguardo all'utilizzo dei dati raccolti dall'IA. Come possiamo garantire l'integrità dei dati quando li utilizziamo a fini valutativi? Inoltre, poiché le piattaforme educative continuano a raccogliere e gestire enormi quantità di dati sugli studenti, come possiamo assicurarci che queste informazioni vengano utilizzate in modo etico e proteggere la privacy e la sicurezza di insegnanti e studenti?
L'intelligenza artificiale presenta pregiudizi intrinseci, in termini di cultura, genere e status socioeconomico. Questo problema deve essere affrontato per garantire equità e giustizia nei nostri sistemi educativi.
Inoltre, raggiungere una sinergia tra insegnanti e strumenti di intelligenza artificiale è di vitale importanza. È fondamentale che le tecnologie di IA supportino gli educatori, anziché sostituirli, soprattutto perché le pressioni economiche potrebbero indurre all'automazione di diversi processi educativi, minando potenzialmente il ruolo degli insegnanti.
"È fondamentale che le tecnologie di intelligenza artificiale supportino gli educatori, anziché sostituirli."
ABB: In che modo state rispondendo a queste sfide con il vostro approccio incentrato sulla persona, e cos'altro è necessario fare?
RMM: I giovani studenti di oggi si trovano ad affrontare un futuro in continua evoluzione e incerto. Poiché l'intelligenza artificiale continua a rimodellare il panorama del mondo del lavoro, diventa fondamentale progettare tenendo conto di questo futuro incerto. Credo fermamente nell'adozione di un approccio centrato sulla persona quando si integra, si progetta e si studia l'IA in ambito educativo. A tal fine, ho instaurato solide collaborazioni con le parti interessate del settore dell'istruzione. Insieme, puntiamo a garantire che le future applicazioni di IA siano sviluppate in armonia con le reali esigenze e aspirazioni educative. Mi assicuro che le voci di educatori e studenti siano prese in considerazione nello sviluppo delle interfacce uomo-IA.
Nei settori dell'aviazione e della sanità, ad esempio, sono comuni i controlli esterni che garantiscono l'affidabilità e la sicurezza dei sistemi. Questi meccanismi non sono ancora stati sviluppati per l'intelligenza artificiale. Il primo passo fondamentale per l'intero settore è quello di elaborare codici etici di condotta per l'IA, ma dobbiamo anche stabilire meccanismi che impediscano ai sistemi di IA implementati nelle scuole di compromettere l'autonomia di insegnanti e studenti.
"Prevedere il futuro è una sfida, ed è fondamentale che coloro che saranno interessati dall'intelligenza artificiale nell'istruzione svolgano un ruolo attivo nell'influenzarne il corso."
ABB: Nutri speranze per il futuro di questo settore?
RMM: Data la mia lista, non esaustiva ma già lunga, delle sfide che il settore si trova ad affrontare, potrebbe sembrare che io non sia molto ottimista sul futuro. Si potrebbe dire che sono indeciso. Riconosco che viviamo in una società iperconnessa, che sta diventando sempre più frammentata. Aspettarsi che i governi raggiungano un accordo universale sullo sviluppo ottimale dell'IA per minimizzare i danni sociali potrebbe essere eccessivamente ingenuo. Una solida collaborazione tra il settore industriale, gli educatori, le famiglie e i ricercatori è essenziale per plasmare in modo proattivo il futuro che desideriamo, piuttosto che limitarsi a reagire a ogni nuova innovazione nell'ambito dell'IA. È difficile immaginare cosa ci riserverà il futuro. Prevedere il futuro è una sfida, ed è fondamentale che coloro che sono interessati dall'IA nell'istruzione svolgano un ruolo attivo nell'influenzarne il corso.
Le note
Roberto Martinez-Maldonado è docente senior di Learning Analytics e Interazione uomo-computer presso la Facoltà di Tecnologie dell'Informazione della Monash University di Melbourne. La sua ricerca si concentra sulla collaborazione con le parti interessate del settore educativo per creare strategie e promuovere tecnologie digitali progettate per supportare l'insegnamento e l'apprendimento negli spazi fisici e digitali. Roberto Martinez-Maldonado è un Jacobs Foundation Ricercatore associato 2021-2023.
Questa intervista è stata modificata per chiarezza.
