Senzația că am înțeles un subiect este un indicator foarte slab al faptului că îl înțelegem cu adevărat, iar inteligența artificială poate amplifica această iluzie prin răspunsurile pe care le oferă rapid, fluent și cu aparentă siguranță, avertizează Cristine Legare, profesor de psihologie și director al Center for Applied Cognitive Science de la University of Texas at Austin. „Nu există nicio scurtătură AI pentru a deveni un bun rezolvator de probleme”, a spus cercetătoarea în cadrul Digital Learning Week, conferință organizată săptămâna aceasta de UNESCO.
- Cristine Legare este profesor în Departamentul de Psihologie al University of Texas at Austin, iar cercetările sale se concentrează pe științele cognitive, dezvoltarea cognitivă și învățarea culturală. Domeniile sale de interes includ și educația internațională, educația STEM și sănătatea publică globală, potrivit profilului publicat de universitate. În cercetările sale, Legare studiază modul în care oamenii dobândesc, folosesc și transmit cunoștințe și felul în care procesele cognitive interacționează cu mediul cultural.
Cristine Legare, care studiază modul în care oamenii învață și în care se dezvoltă înțelegerea, spune că problema nu a apărut odată cu inteligența artificială. Oamenii au tendința de a crede că înțeleg mai mult decât înțeleg în realitate, fenomen cunoscut în psihologie drept „iluzia profunzimii explicației”.
„Dacă v-aș întreba cât de bine înțelegeți cum funcționează o bicicletă, pe o scară de la unu la zece, ați putea spune nouă, poate opt. Simt că înțeleg cum funcționează o bicicletă. Iar apoi, dacă v-aș cere să desenați o diagramă și să-mi explicați exact cum se îmbină angrenajele, foarte repede ați descoperi: Hmm, poate că, de fapt, nu înțeleg prea bine cum funcționează o bicicletă. Ceea ce, apropo, nu vă împiedică deloc să mergeți pe bicicletă”, a explicat Legare.
Potrivit profesoarei, oamenii învață în mod firesc să reproducă o acțiune înainte de a-i înțelege în profunzime mecanismul. Copiii, de exemplu, sunt foarte buni imitatori, ceea ce le permite să acumuleze rapid cantități mari de informații fără să fie nevoiți să descopere singuri mecanismele din spatele fiecărei activități.
Problema în cazul inteligenței artificiale apare din felul în care oamenii evaluează credibilitatea și propria înțelegere.
„Răspundem foarte mult la lucruri precum familiaritatea și fluența, la încredere, statut și ierarhie. Și aici apar potențialele riscuri asociate cu AI. AI se prezintă ca fiind foarte sigură, foarte fluentă. Răspunsurile vin foarte repede. Iar acest lucru poate întări și mai mult iluzia profunzimii explicației, iluzia noastră de competență”, a spus Cristine Legare.
În educație, riscul crește atunci când tehnologia elimină tocmai procesul prin care elevul încearcă, greșește, își observă greșeala și își modifică răspunsul, potrivit cercetătoarei.
„Învățarea are loc atunci când ai libertatea să faci greșeli, să observi că ai făcut o greșeală și să ai posibilitatea de a-ți ajusta răspunsul în consecință. Acesta este motorul învățării.”
Cristine Legare spune că folosirea unor instrumente externe pentru reducerea efortului cognitiv nu reprezintă în sine o problemă și nici nu este un fenomen nou. Riscul apare atunci când elevul transferă către tehnologie inclusiv procesul de gândire și capacitatea de a evalua informația primită.
„A le oferi elevilor posibilitatea să parcurgă prin raționament un proces, să se confrunte puțin cu dificultatea și să facă lucruri de bază precum evaluarea unui răspuns, dacă este corect sau nu, dacă răspunsul este relevant sau adecvat, aceste momente în care elevul are autonomie sunt, cred, absolut esențiale și trebuie păstrate.”
„Nu orice externalizare cognitivă este o problemă și nici nu este ceva nou. AI este cea mai nouă dintr-un lung șir de tehnologii culturale pe care, de fapt, le-am proiectat tocmai pentru a externaliza o parte din activitate. Dar atunci când sunt externalizate și procesul, și capacitatea de a evalua informația, acolo cred că se află pericolul”, a explicat profesoara.
Inteligența artificială ar putea însă să fie folosită și în sens invers, pentru a-i determina pe elevi să gândească mai mult, dacă instrumentele sunt proiectate pornind de la ceea ce arată cercetările despre modul în care învață copiii.
Legare compară modelul eficient cu o relație de ucenicie, în care un profesor sau un părinte mai experimentat îi oferă copilului suficient sprijin pentru a avansa, fără să îi dea imediat răspunsul și fără să elimine dificultatea.
„Mă gândesc la cea mai bună practică în învățarea socială ca la un proces de ucenicie, ceva asemănător zonei proximei dezvoltări a lui Vygotsky, în care un părinte sau un profesor cu mai multă experiență oferă exact suficient sprijin elevului, fără să îi dea toate răspunsurile, fără să elimine dificultatea, punând întrebări la momentul potrivit și fără să ofere imediat răspunsurile.”
Un instrument AI construit în acest fel ar putea pune întrebări înainte de a furniza soluția, ar putea cere elevului să facă predicții și l-ar putea împiedica să sară direct la răspunsul corect, spune cercetătoarea.
„Dacă AI este proiectată pentru a susține cele mai eficiente și moderne modalități prin care știm că învață copiii, după modelul unei bune relații de ucenicie, cred că există foarte mult potențial. Să le pună copiilor întrebări și să nu ofere imediat răspunsul, să lase copilul să se gândească puțin la răspuns, să genereze sau să îl încurajeze să facă o predicție, de exemplu, să îl împiedice să se grăbească spre răspunsul corect.”
Potrivit profesoarei, una dintre problemele sistemelor de educație este tocmai accentul foarte mare pus pe obținerea răspunsului corect, în detrimentul procesului prin care elevul ajunge la acel răspuns.
„Există multe obiceiuri proaste, foarte bine documentate în știința învățării, pe care sistemul formal de educație le încurajează și el. De exemplu: hai să obținem pur și simplu răspunsul. Toată această parte a învățării este privită ca și cum m-ar împiedica să termin eficient o sarcină.”
Un AI bine proiectat ar putea, în schimb, să îi ajute pe elevi să observe când nu sunt siguri, să verifice dacă au înțeles cu adevărat și să își formuleze singuri explicațiile.
„O parte din ceea ce un AI bine proiectat poate face, cel puțin în principiu, este să susțină procesul de detectare a incertitudinii, să le semnaleze elevilor dacă înțeleg cu adevărat ceva sau nu și să îi încurajeze să formuleze cu voce tare ceea ce au înțeles.”
Cristine Legare spune că una dintre cele mai bune metode prin care o persoană poate verifica dacă stăpânește într-adevăr un subiect este să încerce să îl explice singură, fără sprijin extern.
„Unul dintre lucrurile pe care trebuie să le înțelegem cu toții despre propria minte este că avem senzația că înțelegem lucrurile mult mai bine decât le înțelegem de fapt.”
„Singura modalitate de a afla dacă înțelegi cu adevărat ceva este să îndepărtezi toate aceste forme de sprijin și să îl formulezi verbal singur. Trebuie să îi încurajăm pe elevi să exerseze ceea ce știm din știința învățării că promovează cu adevărat înțelegerea, și nu doar o anumită fluență procedurală”, a spus profesoara.
Schimbarea evaluării este una dintre măsurile concrete pe care sistemele de educație ar trebui să le ia în contextul răspândirii inteligenței artificiale, potrivit lui Legare.
„Cred că schimbarea evaluării este o parte uriașă a răspunsului. Cred că unul dintre motivele pentru care învățarea a fost împinsă tot mai mult în plan secund în educație este că elevii sunt stimulați să obțină răspunsul corect și se concentrează prea mult asupra acestui lucru.”
Potrivit cercetătoarei, o parte dintre deciziile privind evaluarea sunt construite mai degrabă în jurul eficienței decât al celor mai noi rezultate din știința învățării, iar această problemă este anterioară apariției AI.
Legare susține revenirea la evaluări în care elevii trebuie să își formuleze și să își susțină singuri ideile.
„Cred că este esențial să revenim la modalități prin care îți formulezi ideile prin exprimare verbală, prin scrierea eseurilor, prin exprimarea competenței independent de aceste forme culturale de sprijin, în acest caz tehnologia educațională. Iar această demonstrație a învățării nu este utilă doar pentru că le arăți altora că știi ceva, ci pentru că îți arăți ție însuți.”
Întrebată ce ar trebui să înțeleagă orice elev de 15 ani despre propria minte înainte să folosească un instrument AI, Cristine Legare a revenit la diferența dintre impresia de înțelegere și înțelegerea propriu-zisă.
„Aș încheia cu diferența dintre a simți că înțelegi ceva și a înțelege cu adevărat acel lucru. Propria ta impresie, experiența subiectivă că înțelegi ceva, este un indicator foarte slab al faptului că îl înțelegi cu adevărat.”
„Singura modalitate de a ști dacă înțelegi ceva este să încerci să îl predai altcuiva, să îți formulezi gândurile în fața altora, să îți asumi riscul de a-ți expune neînțelegerea. Iar faptul că îți asumi controlul asupra propriului proces de învățare este superputerea ta”, a spus profesoara.
Competențele care vor conta în educație, precum gândirea critică, perseverența, învățarea autoreglată și rezolvarea de probleme, sunt competențe de proces și nu pot fi dobândite fără efort, a subliniat Legare.
„Toate acestea sunt competențe pe care le înveți prin dificultate și muncă susținută. Nu există nicio scurtătură AI pentru a deveni un bun rezolvator de probleme.”
„Chiar dacă AI poate susține acest proces, ceea ce cred că are potențialul să facă și există multe companii edtech care lucrează în prezent la acest lucru, nu există nicio scurtătură pentru a face munca”, a concluzionat Cristine Legare.
Discuția a avut loc în cadrul Digital Learning Week, organizată de UNESCO, într-o sesiune despre gândirea critică, gândirea independentă și metacogniție în epoca inteligenței artificiale. Dezbaterea a fost moderată de românca Simona Popa, Programme Specialist la UNESCO International Bureau of Education. La discuție a participat și Jason Lodge, profesor de psihologia educației la University of Queensland, Australia. Vedeți aici un rezumat al analizei profesorului.
Puteți urmări conferința în video de mai jos:
Citește și: