ENTREVISTA
Carles Sierra és professor d’investigació al Consell Superior d’Investigacions Científiques (CSIC) i director de l’Institut d’Investigació en Intel·ligència Artificial.
A l’inici de la conversa, en Carles ens assegura que la intel·ligència artificial existeix des de fa més anys dels que la gent acostuma a pensar. Segons apunta, alguns situen el seu inici l’any 1956 quan John McCarthy encunya per primer cop el concepte durant el Congrés de Dartmouth.
Tanmateix, el professor es remunta fins al segle XIII amb el filòsof i teòleg Ramon Llull i la seva idea d’automatitzar el raonament. Llull, en un intent per crear un mètode de convèncer a musulmans, jueus i altres de les seves creences cristianes, dissenya artefactes mecànics que establien composicions de lletres interpretables amb taules al seu llibre Ars Generalis Magna.
En un primer moment, el raonament de Llull queda incomprès i apartat, però segles després el tindran com a referent
En un primer moment, el seu raonament queda incomprès i apartat, però segles després, Leibniz (1646-1716), George Boole (1815-1864), i altres autors, el tindran com a referent en el desenvolupament del seu treball respecte al càlcul i la mecanització del raonament lògic. Per tant, aquesta línia d’investigació centrada en l’automatització d’aquest tipus de raonament serà peça clau de l’aproximació a la intel·ligència artificial (IA) que ens presenta en Carles.
Què és per a tu la intel·ligència artificial (IA)?
La definiria com la programació de màquines per a resoldre problemes complexos, els quals normalment requeririen intel·ligència humana per a ser solucionats. Per tant, la IA busca resoldre problemes d’una manera automàtica. En un sentit més ampli, el que pretén és automatitzar processos cognitius, des de l’aprenentatge fins al raonament.
Per què la IA en l’educació?
La IA és una tecnologia transversal, no està focalitzada a un sector productiu o econòmic concret. La IA es considera àmplia en el sentit en què el seu objectiu és automatitzar aquells processos complexos que els humans resolen amb la seva intel·ligència. Per tant, l’educació no és una excepció. Hi ha moltes tasques que els docents fan, sobretot a l’aula, que requereixen la seva intel·ligència. Per exemple, perceben el seu entorn, detecten quan un alumne té alguna dificultat o dubte, adapten els continguts perquè l’alumnat avanci millor, construeixen i creen materials, etc. Així doncs, són éssers intel·ligents que tenen com a finalitat millorar el procés educatiu. De manera que, l’educació també inclou tasques que són potencialment automatitzables i on pot encaixar perfectament la IA.
L’educació també inclou tasques que són potencialment automatitzables i on pot encaixar perfectament la IA.
Què necessita saber ara mateix un docent sobre IA en educació? Què li explicaries sobre com pot contribuir a la seva professió?
Primer, cal entendre la IA com una forma d’obtenir eines que faciliten el treball docent. Actualment, ja disposen d’eines tecnològiques i processos d’automatització que fan servir en el seu dia a dia, com els fulls de càlcul o fins i tot un llapis. Al cap i a la fi, la tecnologia sempre ha estat present a l’aula. Per exemple, ja es feien servir cassets fa anys per ensenyar llengües estrangeres. Per tant, la IA només és una nova volta de pàgina, i només s’ha de considerar com a una tecnologia més que ens ajuda a l’aula i, com la resta, hem d’avaluar-la i trobar la seva utilitat.
I partint d’això, necessiten entendre què és la IA per a utilitzar-la?
En general, molts cops fem servir de la tecnologia i no sabem com funciona. Però crec que sempre és més útil saber sobre allò que estàs usant, per entendre, per exemple, quins problemes pot donar-te i poder donar-li un bon ús. Sobretot, en funció de com sigui de sensible l’àrea d’aplicació, és necessari fer-se preguntes de com funciona aquella tecnologia en concret. Al cap i a la fi, el coneixement és poder, hem de ser capaços de conèixer mínimament què hi ha al darrere. Per tant sí, per a mi és molt útil.
Quines precaucions són necessàries per a integrar la IA al sector educatiu? Quins dilemes ètics sorgeixen?
La Comissió Europea s’ha llançat a fer la primera regulació del món en matèria d’IA. Dins de l’estudi que estan fent, han identificat dues àrees d’intervenció on es considera un alt risc d’implementació de la IA. Primer, l’avaluació té com a risc els biaixos que es poden produir en el procés, per això requereix una supervisió molt clara. D’altra banda, l’assignació de l’alumnat a escoles pot reproduir situacions de segregació. Aquests possibles efectes, entre d’altres, tornen a la necessitat de què els docents es facin preguntes sobre el percentatge d’error, els efectes que té o els biaixos que pot incloure. El docent ha d’entendre mínimament la terminologia per saber interpretar que li diu l’eina, assegurar-se.
La IA només s’ha de considerar com una tecnologia més que ens ajuda a l’aula i, com la resta, hem d’avaluar-la i trobar la seva utilitat.
No obstant això, és important que el treball sobre els possibles biaixos es tingui en compte des del disseny de la IA. Sobretot en termes ètics, els dissenyadors/es han d’assegurar que els seus dissenys coneguin els valors, els entenguin i sàpiguen enfrontar-se a noves situacions basant-se en ells.
Quina és la situació al nostre país respecte a la implementació de la IA en educació?
Tot i haver-hi ja algunes experiències a les aules, no hi ha encara cap pla d’implementació com a tal de la IA en el nostre sector educatiu. Hi ha un gran nombre d’aplicatius amb diferents característiques que ja es poden utilitzar, i s’estan aplicant en aspectes com els processos de matrícula.
Tanmateix, per la seva aplicació de manera conscient i amb objectius concrets, fa falta un pla d’introducció de la IA en els currículums educatius, acompanyat de formació docent. Sé que hi ha algunes conselleries -com és el cas de Catalunya, Illes Balears i Comunitat Valenciana- que ho estan parlant i planificant, sobretot de cara al canvi curricular del curs vinent.
Els dissenyadors/es han d’assegurar que els seus dissenys coneguin els valors, els entenguin i sàpiguen enfrontar-se a noves situacions basant-se en ells per evitar biaixos
En aquests casos, les seves preocupacions principals com Administracions s’enfoquen, en primer lloc, en la centralització de dades de qualitat i la seva custòdia de manera segura. Tot i tenir aquestes dades, consideren que els hi falta múscul per poder-ne extreure els beneficis, sobretot de cara a l’estudi de tendències i de la mateixa pràctica per millorar-la. Seguidament, com encaixar aquestes competències digitals en el marc de la formació al professorat d’una manera que els hi encaixi i els hi proporcioni les eines adients per transmetre-ho a les seves pràctiques.
Quins aspectes clau creus que hauria de tenir en compte l’administració pública a l’hora de dissenyar polítiques sobre IA en educació?
A escala internacional, disposem del Consens de Beijing sobre Intel·ligència Artificial y Educació (2019) per part de la UNESCO. En aquest, s’estableixen recomanacions pels Estats Membres per orientar-los cap a la integració de la IA en l’educació amb l’objectiu d’aprendre utilitzant-la, aprendre sobre ella i preparar-se per al seu ús.
D’aquesta manera, es busca que la ciutadania conegui la temàtica i sigui responsable i capaç de fer-ne ús. Les recomanacions s’orienten cap a diferents àmbits com el finançament requerit per part de les Administracions, la cooperació entre Estats, la creació d’una plataforma d’IA per l’educació on es comparteixin recursos, i un punt fonamental: afegir la IA als currículums de TIC del professorat, considerant la seva formació un dels punts clau en aquesta integració. Dins d’aquestes, sempre es considera central la perspectiva ètica, que la IA sigui inclusiva i responsable, i que la ciutadania tingui clars aquests valors en la seva formació en l’àmbit.
S’hauria d’introduir la IA als plans d’estudi de manera transversal, és una tecnologia àmplia i hauria de presentar-se com un projecte de centre engrescador
No obstant això, reconec que introduir la IA en l’educació no és una tasca senzilla, hem de considerar totes les seves branques. Amb això vull dir que la manera més enriquidora de desenvolupar la IA és fer-ho incloent les contribucions d’altres àrees de coneixement, com per exemple l’ètica des de l’àmbit filosòfic. No es planteja la IA com un cas específic de computació, s’ambiciona com un estudi més transversal on les ciències socials i de la vida també tenen cabuda.
Per això, s’hauria d’introduir als plans d’estudi d’una manera transversal, des de diferents departaments. És una tecnologia àmplia i que hauria de presentar-se com un projecte de centre engrescador, que inclogui a tot el claustre perquè tothom pot contribuir en el desenvolupament d’aquestes competències.
Necessitem entendre la tecnologia que ens envolta
Després de la conversa, veiem que actualment ens trobem en una fase d’acceleració en la integració de la IA a la societat. Convivim amb ella en el nostre dia a través d’assistents personals, aplicatius de salut, cerca personalitzada a Internet, etc. Per tant, per en Carles, introduir la IA als centres educatius és un encert absolut. Principalment perquè com a espais d’aprenentatge, són el lloc adient per generar els coneixements, les competències i la consciència necessària en aquest àmbit. La qüestió ens implica a tots i totes, tant alumnat com professorat necessiten entendre la tecnologia que els envolta i els seus usos. Com també, saber com aprofitar les oportunitats i ser crítics per prevenir els seus riscos.
Per començar a plantejar respostes als possibles usos de l’IA dins el nostre sistema educatiu, juntament amb el CSIC, RO-BOTICA, GAIA i KID’S CLUSTER, estem pilotant el projecte experimental ‘Avaluació 4.0’ amb l’objectiu estratègic d’impulsar la confluència entre la IA i l’educació. Aquesta iniciativa tracta de millorar el procés d’avaluació a diferents instituts a través d’un pilot contextualitzat, el qual testarà una solució tecnològica que s’espera que desenvolupi una gestió avançada dels processos d’aprenentatge.
Vols saber-ne més?
