Comença el curs: quin paper tindrà la IA en el sector educatiu?

Milions d’estudiants arreu del món comencen el curs aquests dies. El primer de setembre començaren les classes a Catalunya del Nord i durant la setmana vinent començaran a la resta dels Països Catalans. En aquest nou curs augmentarà l’ús de la intel·ligència artificial, tant per part dels alumnes com dels professors. Si fa pocs anys en alguns països s’havia optat per prohibir eines com el ChatGPT, s’ha evolucionat cap a un ús guiat de les eines d’intel·ligència artificial, una vegada constatat que no se’n pot evitar l’ús. El sector tecnològic també ha reaccionat i ha començat a elaborar nous productes de IA dissenyats específicament per al món educatiu, havent observat les preocupacions del sector i dels pares. Més que intentar de substituir els professors, l’estratègia és que la IA faci de tutor personal de l’estudiant amb la supervisió del professor. Tanmateix, alguns experts consideren que la intel·ligència artificial durà a la pèrdua de llocs de feina en el món educatiu aquests anys vinents. Alhora, a molts països hi ha dificultats creixents per a trobar professors, especialment en ciències, matemàtiques i enginyeria, cosa que pot fer que la IA acabi convertint-se en professor encara que no es vulgui.

ChatGPT Edu i el “Mode d’estudi”

D’ençà de mitjan curs passat, les empreses d’intel·ligència artificial presenten productes pensats específicament per al sector educatiu. OpenAI, la màxima referència en intel·ligència artificial, va presentar el maig passat el ChatGPT Edu, la versió del seu popular bot de conversa orientada a les facultats, tant per als estudiants com per als professors i la resta de personal universitari. La companyia pretén que la intel·ligència artificial esdevingui un tutor personalitzat dels estudiants i que, alhora, faciliti als investigadors l’elaboració de peticions de nous projectes o la correcció d’exàmens, per exemple. Tanmateix, aquest producte sembla més basat en motius econòmics que no pas en característiques especials dels models de IA. La companyia ja havia detectat que les universitats empraven subscripcions empresarials i amb el nou producte ofereix un pla de subscripció específic per a entitats acadèmiques, un fet comú en el sector tecnològic.

ChatGPT Edu ofereix els mateixos models que trobem amb les versions gratuïtes i de pagament, com ara l’anàlisi de dades o el resum de texts, l’habilitat de construir GPT (petits programes d’IA) o poder fer moltes més consultes que als comptes gratuïts. També inclou la gestió de permisos de grups d’usuaris, com als comptes empresarials, però adaptada al sector educatiu. La companyia, a més, assegura que les converses i les dades que empri el sector universitari no es faran servir per a entrenar els seus models.

Tot i aquest producte, mesos més tard la companyia va presentar un “Mode d’estudi” disponible a totes les versions del ChatGPT, no tan sols a l’educativa. Amb aquesta nova modalitat, el bot conversacional no dóna respostes ràpides, sinó que una explicació més detallada per a ajudar en l’aprenentatge, segons la companyia. OpenAI pretén així que els estudiants aprenguin fàcilment temes complexos, de manera que puguin fer preguntes a la IA si hi ha res que no hagin entès i n’obtinguin explicacions guiades. Així mateix, el bot detecta els punts forts i febles de l’estudiant, i el guia cap a on li calgui un reforç. Per a accedir a aquesta modalitat al mòbil, cal anar al símbol +, a la part inferior de l’aplicació del ChatGPT, i triar l’opció “Estudia i aprèn”. En la versió web i per a ordinador no hi ha aquesta opció, si més no en la versió en català, malgrat que la companyia diu que és accessible a la configuració del xat. De moment, per entrar-hi des del navegador hem de teclejar l’adreça https://chatgpt.com/studymode.

Google i Anthropic també tenen versions educatives

Pocs dies abans de l’anunci del ChatGPT Edu, Google havia comunicat un seguit de models d’intel·ligència artificial orientats també a l’educació, el LearnLM. L’objectiu és el mateix: un aprenentatge actiu de l’alumne, presentant la informació de manera estructurada i ressaltant allò que és rellevant, adaptant-se a les necessitats de cada estudiant, inspirant la curiositat i mostrar els seus progressos, sempre segons la companyia. Per accedir-hi, sigui a l’aplicació del mòbil o a la versió web, hem d’anar a les tres línies de la part superior esquerra, triar “Explore Gems”, “Show more” i “Learning coach” (‘tutor d’aprenentatge’). Tot i que els menús de Gemini no siguin en català, podem fer servir la nostra llengua per parlar-hi al xat. Si demanem a la versió estàndard de Gemini, per exemple, quin és el diàmetre de la Terra, ens donarà la dada i prou. En canvi, la versió de tutoria ens explicarà a més que fa més de 2.000 anys Eratòstenes va ser el primer que va mesurar-la amb precisió, tot i que amb un enllaç a la Wikipedia en castellà i un vídeo en portuguès a YouTube, cosa que demostra la immaduresa del producte.

Google, a més, sembla dirigir el tutor del Gemini més a les escoles que no pas a la universitat, a diferència d’OpenAI. Segons la companyia, treballen amb professors a l’aula per millorar el procés d’aprenentatge dels alumnes amb ajuda de la intel·ligència artificial. S’adrecen també als professors, perquè descobreixin noves idees i activitats úniques i, a més, trobin nous materials que estimulin els alumnes i puguin adaptar les lliçons a cada estudiant. La companyia adopta una actitud conciliadora amb el sector educatiu i les preocupacions que. Diu: “Cap tecnologia no podrà mai reemplaçar la màgia del professor”, i afegeix i que gràcies a la IA podran “augmentar la seva capacitat, proporcionant-los més temps per invertir en ells mateixos i els seus estudiants”.

Google i OpenAI no són les úniques companyies que opten pel sector educatiu, atès el gran potencial econòmic que té, amb més de mil milions d’estudiants a tot el món. Una altra de les grans companyies d’intel·ligència artificial, Anthropic, amb el seu bot conversacional Claude, pocs dies després dels anuncis de Google i OpenAI va anunciar el producte Claude per a l’Educació. Igual que els seus competidors, l’objectiu és que la IA ajudi els estudiants a aprendre i fer treballs, i els professors a elaborar les classes. A més, amb el “Mode estudi”, que Anthropic va presentar abans que el d’OpenAI, es vol estimular el pensament crític dels estudiants i comprovar la seva adquisició de coneixement fent-los preguntes. Amb el nou producte, la companyia s’orienta tant als estudiants de secundària com als universitaris, ajudant-los en tasques com els deures de matemàtiques pas a pas. També als òrgans administratius, facilitant-los eines com ara l’automatització de respostes per correu a preguntes comunes. Anthropic esperar doblar els ingressos amb el nou producte.

A banda els grans dominadors de la IA, sorgeixen noves companyies per a cobrir determinats segments educatius on pugui haver-hi més mancances. Per exemple, MathGPT.ai, orientada a l’aprenentatge de les matemàtiques, una àrea en què hi ha un greu dèficit de professors en països com els EUA. Com en els casos anteriors, el producte s’orienta a fer de tutor dels alumnes i d’assistent dels professors, i assegura que no serveix per a fer trampes en els deures. La companyia es va presentar l’any passat i va fer un programa pilot a trenta facultats universitàries dels EUA. Durant aquesta tardor espera doblar el nombre d’universitats que apliquin el producte a les classes. L’aspecte diferencial és que no dóna mai la resposta directament, sinó que fa preguntes als estudiants, com fa un tutor humà, encoratjant-los a pensar més que no pas a memoritzar les respostes i prou. Als professors els ajuda a elaborar problemes o a corregir exàmens. A més, disposen d’eines de control per a saber com empren l’eina els estudiants, fins i tot limitant-ne l’ús perquè els alumnes treballin en grup sense poder usar la intel·ligència artificial.

Virtuts i problemes de l’ús de la intel·ligència artificial a l’ensenyament

El sector educatiu ha passat del rebuig inicial a les eines d’intel·ligència artificial a un ús progressiu guiat. Tanmateix, encara hi ha preocupació pels resultats. Especialment, perquè algunes enquestes internacionals indiquen que vora un 90% dels joves empren la IA per a estudiar; la meitat, una vegada la setmana i un quart, diàriament. Es fa servir principalment per a cercar informació i com a corrector ortogràfic i gramatical, i també per a resumir textos. El ChatGPT és el guanyador entre les aplicacions de IA: el fan servir dos terços dels estudiants. Quant als resultats, segons alguns estudis els tutors de IA ajuden els estudiants a millorar les habilitats en matemàtiques. Tanmateix, alguns altres han trobat que, com que els tutors ajuden a disminuir l’esforç d’estudiar, també fan disminuir el pensament crític. Si fins ara cercar informació als cercadors era una feina feixuga, però t’obligava a triar la informació de manera crítica, ara els tutors de IA tan sols mostren una resposta que, en alguns casos, pot ser errònia i l’estudiant no veu respostes alternatives que li permetin de detectar-ho.

Un estudi del MIT, la prestigiosa institució tecnològica dels EUA, també ha detectat que l’ús dels tutors de IA fa disminuir el pensament crític dels estudiants i que pot perjudicar el procés d’aprenentatge i fins i tot el desenvolupament del cervell. “Els cervells en desenvolupament són els que perillen més”, diuen els investigadors, sobretot si es pretén aplicar la IA a les etapes educatives més primerenques. A l’estudi els alumnes es dividiren en tres grups. Els que van fer servir intel·ligència artificial presentaren treballs més similars, amb una manca general de pensament propi i emprant les mateixes idees i expressions. Els que no la van fer servir, en canvi, mostraren una activitat neuronal més elevada, especialment la relacionada amb la creativitat, la memòria i el processament semàntic. El tercer grup, que feia servir el cercador de Google, també va mostrar una activitat cerebral activa i més satisfacció.

L’estudi del MIT no va acabar aquí. Els grups van haver de repetir el treball. Ara els que havien emprat el ChatGPT havien de fer servir el cervell i prou. Van recordar poc del treball que ja havien fet, i les seves ones cerebrals van ser de menor intensitat que les del segon grup. Aquests, el que inicialment només havien pogut fer servir, la segona vegada van poder fer servir la IA. I aquesta vegada van mostrar una activitat cerebral superior i van fer un bon treball. Segons els autors de l’estudi, això és esperançador, perquè indica que la IA, si s’empra adequadament, pot ajudar en el procés d’aprenentatge.

La preocupació per la salut mental de l’ús de la IA entre els més joves

Tanmateix, també cal tenir en compte que l’ús de la IA a classe estimula els més joves a continuar fent-la servir en un entorn sense tantes proteccions. De fet, els experts indiquen que els estudiants poden sortir molt fàcilment de la modalitat de tutoria del ChatGPT, Google o Anthropic (n’hi ha prou de clicar en un menú), de manera que poden obtenir respostes directament, sense cap esforç. Una altra preocupació és la que fa referència a la salut mental dels joves que intimen amb els bots conversacionals. Un cas extrem ha estat el d’un adolescent nord-americà de setze anys que es va suïcidar. El jove va passar mesos consultant els seus plans de suïcidi amb el ChatGPT. Ara els pares han dut OpenAI als tribunals. Les mesures de seguretat del bot van funcionar al començament: recomanava al jove que cerqués ajut professional o que truqués a una línia telefònica d’ajuda. Tanmateix, l’adolescent va poder esquivar les mesures de seguretat del bot fàcilment, dient que els mètodes de suïcidi que li consultava eren per a una obra de ficció que escrivia.

En resposta a aquest cas, OpenAI va reaccionar a final d’agost dient que al setembre aplicaria el control parental per a converses “delicades” i modificaria els models per evitar que es repetissin situacions com aquestes. Tanmateix, la companyia admet les limitacions de les mesures de seguretat dels actuals models d’intel·ligència artificial. Si bé poden funcionar molt bé en converses curtes i sobre temes comuns, poden fallar amb interaccions prolongades, en què les mesures de seguretat poden ser manipulades. Hi ha hagut més casos extrems en què la IA ha estat involucrada, com ara el d’un home de cinquanta-sis anys a qui el ChatGPT va estimular la paranoia; l’home va acabar assassinant la seva mare i suïcidant-se tot seguit. També afecta més companyies d’intel·ligència artificial: Character.AI ha estat demandada pels pares d’un noi de catorze anys que es va suïcidar perquè s’havia obsedit amb el bot conversacional, amb qui va interactuar durant mesos explicant-li les seves intencions.

Pels experts, aquestes situacions poden ser derivades d’unes limitacions estructurals dels models d’intel·ligència artificial actuals, que tendeixen a validar les afirmacions dels humans amb els algorismes de predicció de paraules, perquè fan que segueixin les converses perjudicials més que no pas redirigir-les cap a converses saludables. El sector de la intel·ligència artificial és conscient que calen les màximes mesures de seguretat, especialment si es vol orientar cap a l’ensenyament i en una etapa vital en què la salut mental és molt important.