„Gradina cu ziduri”: solutia pentru capcanele AI?

ChatGPT poate scuipa o hartie coerenta despre cauzele Razboiului Civil sau poate analiza o piesa de Shakespeare in cateva secunde. Dar s-ar putea sa scada cele mai elementare fapte despre Abraham Lincoln sau Hamlet atunci cand genereaza acele eseuri.

Instrumentul de inteligenta artificiala preia din aproape toate sursele imaginabile de pe internet, chiar daca o mare parte din continut nu este exacta sau produsa de o sursa de renume. Acesta nu este tocmai genul de tehnologie care va ajuta la castigarea increderii educatorilor.

Introduceti o noua versiune, mai concentrata, a tehnologiei pe care unii o numesc AI „gradina cu pereti” si varul sau apropiat, chatbotii atent proiectati.

Acesti roboti de ultima ora sunt similare cu modelele de limbaj mari generative, cum ar fi ChatGPT, prin faptul ca sunt antrenati folosind date de pe internet. Dar, in loc sa absoarba zone mari de internet si sa le trateze totul oarecum similar, ei genereaza feedback bazat pe o baza de date mai limitata de informatii pe care creatorii lor o considera de incredere.

Cu alte cuvinte: daca ChatGPT si alte modele de limba mari mai generale sunt vastul si in mare parte fara lege Wild, Wild West, aceasta rasa de gradina cu pereti este o scoala mica, cu o singura camera, K-12, condusa de un profesor foarte strict si cu discernamant.

„Oamenii inteleg ca un model general nu va servi atat nevoilor educatiei, cat si modelelor specializate”, a spus Joseph South, directorul de inovare la Societatea Internationala pentru Tehnologie in Educatie, o organizatie nonprofit si una dintre primele educatii. organizatii sa experimenteze cu inteligenta artificiala a gradinii de pereti si chatbot-uri specializate. „Ceea ce le face speciali si diferiti este ca continutul care intra in ele este organizat. Deci, nu va confruntati cu toata partea intunecata a internetului in modelul dvs. pe care trebuie sa o filtrati. Nu o pui niciodata.”

Daca oamenii iti promit un chatbot perfect sigur, probabil ca ar trebui sa fii sceptic pentru moment. Dar este incitant. Acest lucru deschide un teren nou.

Michael Littman, profesor de informatica la Universitatea Brown

ISTE, care a fuzionat recent cu ASCD, lucreaza la dezvoltarea Stretch, un chatbot instruit doar pe informatii care au fost create sau binecuvantate de cele doua organizatii de dezvoltare profesionala. Acest model de gradina cu pereti – care nu este inca disponibil publicului larg – isi poate cita si sursele, oferind utilizatorilor un traseu digital de urmat in masurarea acuratetei sale, potrivit South.

Aceasta capacitate, impreuna cu datele de antrenament mai bine ingrijite, inseamna ca Stretch si robotii similari ar putea fi „incredibil de utili, incredibil de aliniati [la nevoile educatorilor] si mult mai sigur de implementat” decat ChatGPT si alte persoane, a spus South.

Stretch, care este dezvoltat in parteneriat cu Google, este un exemplu timpuriu al tipului de chatbot cu care profesorii si studentii sunt probabil sa devina foarte familiarizati, prezice South.

Acesti roboti mai concentrati ii vor ajuta probabil pe profesori sa gaseasca planuri de lectii adaptate nevoilor si intereselor studentilor, sa atinga dezvoltarea profesionala bazata pe cercetare si chiar sa serveasca drept un fel de tutore de inalta tehnologie pentru studenti, a spus South. Tehnologie similara este deja disponibila sau va fi dezvoltata pentru domenii precum sanatatea si energia, a adaugat el.

In timp ce organizatiile nonprofit precum ISTE vor avea propriile lor roboti, la fel vor avea si alte organizatii, a prezis South.

„Vor fi diferiti gardieni pentru aceste modele”, a spus South. „Si va conta foarte mult: cine a construit modelul? Pentru ca cine a construit modelul iti ofera universul tau de continut din care vei extrage.”

De aceea, Pam Amendola, o profesoara de engleza la liceul Dawson County din Dawsonville, Georgia, se simte in conflict.

Pe de o parte, un bot axat pe dezvoltarea profesionala de la ISTE este foarte promitator si credibil, a spus Amendola, care a finalizat programul special de instruire AI al ISTE in urma cu cativa ani.

Pe de alta parte, sortarea partinirilor si punctelor de vedere ale dezvoltatorilor care au conceput algoritmii care aleg datele pe care se concentreaza un robot „gradina cu pereti” deschide un set cu totul nou de intrebari in domeniul in crestere al alfabetizarii AI, a adaugat ea.

„Ar trebui sa punem la indoiala totul” si sa nu presupunem ca robotii sunt atotstiutori, a spus ea.

„Descoperirea unui nou teren”

Acest tip de inteligenta artificiala specializata poate avea aplicatii interesante in scoli, dar nu va fi usor de creat sau de monitorizat, a spus Michael Littman, directorul diviziei de informatii si sisteme inteligente la National Science Foundation si profesor de informatica la Brown. Universitate.

„Nu stiu daca l-as numi viitorul AI, dar ar putea foarte bine sa fie viitorul chatbotilor”, a spus Littman. „Cea mai mare provocare in acest moment este combinarea fluentei” modelelor mai generale precum ChatGPT „cu capacitatea de a vorbi de fapt despre ceva anume”, a explicat el.

Dar el a adaugat ca, asa cum „insectele pot zbura intr-o gradina [reala] cu pereti”, aceste modele vor trebui in continuare sa functioneze pentru a impiedica informatiile proaste sau „halucinatiile”, informatica vorbeste despre inexactitati, a adaugat Littman.

„Daca oamenii iti promit un chatbot perfect sigur, probabil ca ar trebui sa fii sceptic pentru moment”, a spus Littman. „Dar este incitant. Acest lucru deschide un teren nou.”

South vede mai multe posibilitati diferite pentru scoli cu acest lucru mai concentrat, iar creatorii sai spera, mai de incredere, AI. Profesorii l-ar putea folosi pentru a planifica lectii, de exemplu, pentru a cere idei pentru a ajuta elevii cu dislexie sa invete cum sa rezuma ceea ce au citit, a spus South. Este ceva ce fac deja profesorii cu modele de limba mari mai generale, dar robotii concentrati ar fi probabil mai eficienti si de incredere.

O alta posibilitate: un profesor ar putea cauta ajutor cu un anumit aspect al practicii lor – diferentierea cursantilor, bunastarea elevilor, managementul clasei – dar doreste doar sa ia in considerare informatiile sustinute de dovezi.

Iar inteligenta artificiala a gradinii de ziduri ar putea controla o problema evidenta: atunci cand vine vorba de predare si invatare, o strategie care face furori intr-un minut – sa zicem, invatarea personalizata – ar putea fi dezmintita in continuare. Acesta este motivul pentru care ISTE si ASCD folosesc doar o fereastra de timp scurta de date – in jurul celor mai recenti doi ani – pentru a antrena Stretch, a spus South.

AI ca tutore suprem?

Poate cea mai puternica utilizare potentiala a AI organizata in scoli: Tutoring. Un profesor bun ajuta la iluminarea informatiilor si a conceptelor pentru elevi, dar ei „nu pot anticipa nevoile fiecarui elev care vine in sala de clasa”, a spus South.

Cu toate acestea, un chatbot atent proiectat si concentrat, ar putea „angaja studentii de unde sunt foarte specific, iar asta poate fi incredibil de puternic”, a spus South. „Un profesor nu are timp sa faca asta cu fiecare elev. Dar AI o face.”

Unul dintre cele mai proeminente exemple timpurii in acest sens este Khanmigo, un chatbot dezvoltat de Khan Academy, nonprofit.

Khanmigo functioneaza diferit de Stretch de la ISTE. In loc sa antreneze tehnologia pentru a-si concentra absorbtia de informatii pe un colt al internetului atent ingrijit, Khan Academy si-a proiectat botul pentru a actiona ca un tutore.

Khanmigo nu ofera studentilor un raspuns direct la intrebarile lor. De exemplu, daca un student invata despre diviziunea lunga si i-a cerut robotului sa calculeze, sa zicem, 10.864 impartit la 342, studentul nu va primi un raspuns imediat, a declarat Kristen DiCerbo, directorul sef al Academiei Khan, intr-un interviu. .

In schimb, botul ar putea raspunde cu ceva de genul: „’aceasta este o intrebare grozava. Multumesc de intrebare. Aveti vreo idee despre cum sa incepeti sa va ganditi sa obtineti un raspuns?” Iar studentul ar putea spune „„Ei bine, stiu ca ar trebui sa ma uit la zeci si la unii.” Botul va spune apoi „„asta este un mod grozav de a te gandi la asta. Sa vorbim despre cum sa facem asta.”

Sau daca studentul spune initial ca nu este sigur de unde sa inceapa, bot-ul i-ar putea indrepta din nou in directia corecta, fara sa raspunda.

Khanmigo isi poate personaliza, de asemenea, instructiunile, oferindu-le elevilor exemple de divizii lungi bazate pe interesele lor, cum ar fi baseball sau moda.

Instrumentul este inca intr-un mod de testare, a explicat DiCerbo, si permite utilizatorilor sa raporteze cazurile in care nu actioneaza asa cum ar trebui. Pana acum, doar aproximativ 2% dintre interactiunile sale au fost semnalate ca problematice, a spus DiCerbo.

„In acest moment, descoperim ca [un] model de limba mare cu balustrade in jurul lui este destul de reusit”, a spus DiCerbo. „Vom vedea daca ajungem la o limita a ceea ce putem face cu el, dar nu am ajuns pana acum.”