La intel·ligència artificial generativa ja forma part del dia a dia dels estudiants. Entendre què és realment la IA i com utilitzar-la amb criteri és clau per convertir-la en una eina que afavoreixi l’aprenentatge, i no en una drecera.
Contingut
La IA generativa: una tecnologia que no podem ignorar
Cada cert temps apareixen tecnologies que no només milloren el que ja fem, sinó que canvien les regles del joc. Així ho va fer el foc en el seu moment, Internet fa només unes dècades, i recentment — permeteu-me la provocació— la intel·ligència artificial generativa. Tot i que la intel·ligència artificial existeix des de fa més de mig segle, la irrupció massiva de la IA generativa en els darrers tres anys ha canviat radicalment la percepció del seu potencial. El debat ja no és si tindrà impacte, sinó fins a quin punt transformarà la societat.
La història ens mostra que les grans disrupcions tecnològiques sovint comencen amb aplicacions aparentment limitades. Quan internet es va popularitzar, molts hi van veure sobretot una nova manera d’accedir a informació o de comunicar-se a distància. El que pocs van anticipar va ser la profunditat del canvi: les xarxes socials que redefinirien les relacions personals, noves formes de consum d’oci a través de l’streaming o la possibilitat de mantenir l’activitat econòmica i educativa durant una pandèmia global.
Amb el foc probablement va passar una cosa semblant. Inicialment es va identificar sobretot per escalfar-se o il·luminar, més tard per cuinar o fins i tot com a arma. Però amb el temps es convertiria en la base de processos que, mil·lennis després, acabarien fent possible la revolució industrial. Les màquines de vapor, per exemple, no existirien sense la combustió. Aquest és el patró habitual de les grans innovacions: el seu impacte real rarament es percep en el moment en què apareixen. El seu poder transformador es desplega progressivament, generant noves possibilitats i obrint la porta a innovacions que inicialment ni tan sols s’imaginen.
Amb la IA generativa està passant exactament això. Fa només tres anys destacava sobretot per la seva capacitat de generar textos. Avui també crea contingut audiovisual amb un nivell de realisme sorprenent i, cada vegada més sovint, ens resulta difícil distingir entre contingut real i contingut generat artificialment. El seu impacte ja es deixa notar en múltiples àmbits socials i professionals. Les barreres idiomàtiques es poden superar més fàcilment, apareixen noves interfícies basades en llenguatge humà per interactuar amb sistemes digitals, i també està canviant la manera com busquem informació o prenem decisions de compra. Els vehicles autònoms comencen a ser una realitat, i la robòtica humanoide — tant industrial com domèstica— avança a passos accelerats. I tot això ha passat en poc més de tres anys. La IA generativa s’ha convertit així en la tecnologia amb la velocitat d’adopció més alta de la història: durant aquests primers anys ha crescut tres vegades més ràpid del que ho van fer els smartphones, i cinc vegades més ràpid del que ho va fer internet.
La conclusió és clara: la intel·ligència artificial generativa ha arribat per quedar-se. Igual que la societat no va poder ignorar el foc ni internet, tampoc podrà ignorar aquesta nova tecnologia.
Els nostres joves utilitzen IA generativa de forma habitual i necessiten acompanyament
Sovint, les noves tecnologies s’han expandit primer entre les noves generacions, sempre més permeables a les innovacions i els canvis. I aquestes generacions, com indiquen publicacions internacionals, en fan ús tant amb l’òrbita educativa com en la personal.
Centrant-nos en l’educació, les estadístiques indiquen que prop del 60% de la població espanyola d’entre 16 i 24 anys utilitza IA generativa amb finalitats educatives. Així, en pocs anys, els joves han adoptat aquestes eines per estudiar, investigar i preparar treballs, entre d’altres. Més enllà de l’àmbit acadèmic, sabem per exemple que un 46% dels joves d’entre 18 i 24 anys utilitzen també la IA com a suport personal, en aspectes d’organització de la vida quotidiana, fins a converses de suport o reflexió personal. Tot apunta que els nostres adolescents segueixen els mateixos patrons.
Davant d’aquest fenomen, és important entendre que malgrat estem parlant de tecnologia, el repte no és tecnològic. Els qui acompanyem els nostres joves, tant famílies com educadors, necessitem entendre per a què i com estan utilitzant realment aquestes tecnologies. Hem de ser conscients que, mentre nosaltres encara intentem entendre les implicacions d’aquesta tecnologia, per a milions de joves ja és una eina quotidiana per pensar, aprendre i prendre decisions. Sovint, però, encara no saben utilitzar-la adequadament.
No ens hem de permetre que, com ja ens ha passat la darrera dècada amb les xarxes socials, els joves les usin sense que nosaltres puguem acompanyar-los de forma adequada. Això ens exigeix tenir-ne un coneixement raonable per poder parlar-ne amb ells d’igual a igual.
Què necessiten (i necessitem) saber de la IA generativa
Si volem acompanyar bé els nostres joves en l’ús de la intel·ligència artificial, necessitem conèixer alguns conceptes clau sobre aquesta tecnologia. Entendre això és important perquè ajuda a entendre tant el seu potencial, com les seves limitacions. No patiu, que no és una explicació per a tecnòlegs!
El primer concepte tècnic fonamental que convé tenir clar és que la IA generativa no cerca informació, la genera. Quan li fem una “pregunta”, no està consultant informació existent, ni verificant fonts com ho faria una persona. El que fa és construir una resposta nova a partir d’un model matemàtic i estadístic gegantí entrenat amb enormes quantitats d’informació.
En essència, i parlant d’IA per generar textos, aquests models matemàtics estan dissenyats per predir quina és la següent paraula més probable en una frase. Podem imaginar el seu funcionament com una ruleta de probabilitats que gira a velocitat de vertigen. A partir d’una frase (que anomenem prompt) la màquina calcula estadísticament quina paraula té més sentit que vingui a continuació segons els milions de textos amb què ha estat entrenada. Així va generant paraula a paraula.
Això té implicacions rellevants: la IA no té una comprensió real i completa del que escriu, ja que el que produeix són seqüències de paraules que encaixen bé. I precisament perquè tot es basa en probabilitats, molt sovint genera textos impecables. Tot i així, de vegades genera textos que poden semblar coherents, amb una prosa impecable i completament convincents, però amb continguts que no són certs. És el que en l’àmbit tècnic es coneix com a al·lucinacions.
El segon element clau és el que s’anomena entrenament. Els models d’IA generativa han estat entrenats a partir de grans volums d’informació generada per les persones i presents bàsicament a internet. Això vol dir que també hereten, inevitablement, alguns dels biaixos presents en la societat: estereotips de gènere, visions culturals dominants o determinades formes d’entendre el món. No és que el codi informàtic generi aquests biaixos; simplement els reflecteix perquè provenen dels mateixos continguts amb què el sistema ha estat entrenat.
Si tenim en compte aquests dos elements intrínsecs de la tecnologia —les al·lucinacions i els biaixos— el criteri humà esdevé més important que mai. La intel·ligència artificial generativa pot ser una eina extraordinària, però la millor manera d’entendre-la és com una ajuda. Pot ajudar-nos a avançar més ràpid, a explorar idees o a sintetitzar informació, però la responsabilitat final sempre ha de continuar sent nostra. Podem delegar-hi algunes tasques, però no podem abdicar del nostre criteri.
Abans d’endinsar-nos en l’ús de la IA en relació amb l’aprenentatge, hi ha un tema que no voldria passar per alt. Anteriorment comentava que està creixent l’ús d’eines d’IA com a suport en qüestions personals: des de l’orientació davant de problemes, a converses o fins i tot recomanacions de caire emocional. Considerant les característiques de la IA generativa, sembla clar que no és l’eina més adequada per a aquestes finalitats: no té empatia real, no té coneixement holístic del context vital de la persona, i pot generar textos convincents però imprecisos o inadequats.
Com han d’utilitzar la IA els joves perquè sigui un potenciador de l’aprenentatge i no un obstacle
Una de les primeres temptacions que genera qualsevol nova tecnologia és utilitzar-la per fer més ràpid allò que abans exigia esforç. Amb la intel·ligència artificial això també està passant. Entre molts altres, la temptació de fer els treballs amb IA està a l’ordre del dia. Si ho mirem amb perspectiva però, la voluntat de buscar dreceres no és cap novetat: les “xuletes” als exàmens, els treballs copiats del germà gran, o dels companys, o d’internet… La diferència és que ara aquestes dreceres són molt més accessibles, però com diu la dita: “mateixos gossos, diferents collars”.
Des de sempre, i també ara, necessitem implicar els joves a fons i no esquivar la pregunta clau: voleu aprovar només, o voleu aprendre? (està clar que volen aprovar, el tema és si aspiren a quelcom més que aprovar). En aquest sentit, hi ha dues idees clau perquè l’ús de la IA sumi, i no resti, en termes educatius.
La primera idea clau és: usant la IA s’estan saltant aprenentatges? Si una eina els permet evitar justament la competència que haurien d’estar desenvolupant, no l’haurien d’utilitzar. Si un estudiant per exemple està en una etapa en què ha d’aprendre a sintetitzar informació, utilitzar la IA perquè li faci els resums és, senzillament, saltar-se aquest aprenentatge. En canvi, en cursos superiors quan aquesta mateixa competència ja està adquirida, la tecnologia pot actuar com un accelerador molt útil. Seguint amb el cas anterior, si imaginem uns apunts de biologia, usar eines d’IA per sintetitzar i generar recursos addicionals com taules comparatives que facilitin l’estudi, fan més eficient l’estudiant, ja que en aquest cas, l’objectiu d’aprenentatge no era aprendre a sintetitzar ni a fer taules, sinó comprendre el metabolisme cel·lular.
La segona idea clau és: tens criteri per valorar les respostes de la IA? Recordem que aquestes eines poden equivocar-se o generar informació imprecisa. Si l’estudiant ja té coneixement del tema — continuant amb l’exemple de la biologia— podrà detectar si aquella comparativa és correcta o si hi ha errors. Si no el té, simplement confiarà en una resposta que pot no ser del tot fiable. En aquest sentit, és sempre recomanable adoptar una actitud saludable de dubte per defecte. Qualsevol contingut generat per IA s’hauria de posar en quarantena: com ja hem parlat, pot contenir errors, al·lucinacions o biaixos.
I aquesta idea de la mirada crítica no aplica només a l’hora d’avaluar les respostes que ens doni la IA. El sentit crític ha estat sempre, i serà cada vegada més un element clau, en un context creixent de deepfakes (vídeos, imatges o àudios generats artificialment que poden semblar completament reals) cada vegada més presents. Així, la capacitat de dubtar i verificar és més important que mai.
Per acabar…
Una metàfora que pot ajudar a explicar tot plegat és la del copilot. La IA pot ser un copilot brillant, incansable i ple de recursos. Pot suggerir idees, accelerar processos i ajudar-nos a explorar camins nous. Però a la cabina de comandament, el pilot continuem sent nosaltres. Som nosaltres qui tenim el criteri, els valors i la responsabilitat final del vol.
Però per poder pilotar cal haver-ne après abans. Recordeu la pregunta clau: voleu només aprovar, o voleu aprendre? Potser la IA pot redactar una bona dissertació filosòfica o resoldre exercicis de física mentre estan asseguts al sofà de casa. Però el dia de l’examen —o de les PAU— no hi haurà cap copilot informàtic al seu costat.
La IA no es presentarà als exàmens per ells. No viurà la seva vida. I sobretot, no aprendrà per ells.
Josep M. Ribes i Bonet
Director de l’Observatori IA
La Salle Campus Barcelona – Universitat Ramon Llull