De la Firurile Reddit la Mințile Roboților: Costurile Ascunse ale Antrenării Inteligenței Artificiale

Prioritizarea Siguranței și Predictibilității AI

Pe măsură ce industria inteligenței artificiale (AI) continuă să crească rapid, împingând limitele a ceea ce pot realiza mașinile, provocări critice apar și necesită atenție urgentă din partea dezvoltatorilor, factorilor de decizie politică și comunității internaționale mai largi. Roman Georgio, CEO și co-fondator al Coral, a împărtășit recent opiniile sale asupra acestor probleme presante, subliniind necesitatea crucială de aliniere, siguranță și un model economic mai echitabil pentru creatorii de date.

Discuția despre viitorul AI oscilează adesea între potențialul său transformator și dilemele etice și sociale complexe pe care le prezintă. Deși inovațiile, cum ar fi modelele mari de limbaj (LLM), continuă să impresioneze prin capacitățile lor, ele scot la iveală și întrebări fundamentale despre proprietatea datelor, compensație și structura însăși a muncii.

Pentru Georgio, preocuparea principală constă în alinierea și siguranța AI. “Este clar că trebuie să facem sistemele AI mai previzibile înainte de a le face mai mari,” a declarat el. Acest lucru se referă la provocarea centrală de a asigura că sistemele AI tot mai puternice operează în moduri care sunt benefice și intenționate, fără a produce rezultate neprevăzute sau dăunătoare. Scalarea rapidă a capacităților AI, fără un accent paralel pe predictibilitate și control, prezintă un risc semnificativ.

Georgio a remarcat că abordarea acestui aspect nu este doar sarcina unui dezvoltator. El a sugerat că ar putea necesita un efort mai larg, coordonat, implicând potențial “toți liderii de companii și țări într-o cameră pentru a ajunge la un acord asupra unui tip de legislație.”

Imperativul Economic: Proprietatea Datelor și Compensația

Dincolo de siguranță, Georgio a evidențiat o problemă economică semnificativă pe care el consideră că tehnologiile Web3 sunt pozitionate în mod unic pentru a o rezolva: însușirea datelor și potențialul de înlocuire în masă a locurilor de muncă fără compensație echitabilă.

“Companiile AI au fost notoriu destul de rele în ceea ce privește însușirea datelor,” a explicat Georgio.

Co-fondatorul Coral a pictat o imagine vie a modului în care contribuțiile individuale online, adesea făcute fără a ști, sunt acum folosite pentru a antrena modele AI puternice care ar putea înlocui în cele din urmă locurile de muncă umane. El a menționat exemple precum întrebări medicale răspunse pe platforme precum Reddit cu ani în urmă, alimentând în mod neștiut date către LLM-uri. El a evidențiat, de asemenea, operele creative ale artiștilor folosite pentru antrenament, afectându-le mijloacele de trai, precum și contribuțiile la proiectele open-source, alimentând din greșeală “mașini de procesare a numerelor în cutie neagră.”

Acest scenariu, argumentează Georgio, se reduce la o lipsă fundamentală de proprietate pentru indivizi asupra contribuțiilor lor digitale. “Nu ai știut niciodată că hrănești mașina de procesare a numerelor în cutie neagră,” a subliniat el. Modelul actual permite sistemelor AI să fie antrenate pe seturi de date vaste, multe dintre care conțin conținut generat de oameni, fără consimțământ explicit sau un mecanism de compensare a creatorilor originali.

Web3: Soluția pentru Compensare Echitabilă

Aici Georgio vede potențialul imens al tehnologiilor Web3. El crede că natura descentralizată a Web3, cu accentul său pe proprietatea verificabilă și tranzacțiile transparente, oferă o cale viabilă pentru a corecta aceste dezechilibre economice.

“Web3 are un mare potențial de a rezolva aceste tipuri de probleme și de a asigura că oamenii sunt compensați corect,” a afirmat Georgio. Prin utilizarea blockchain-ului și a protocoalelor descentralizate, Web3 poate crea sisteme unde indivizii păstrează proprietatea și controlul asupra datelor și activelor lor digitale, permițându-le să fie remunerați corect atunci când contribuțiile lor sunt folosite pentru a antrena sau a alimenta sisteme AI. Această schimbare ar putea redefini relația dintre utilizatori, date și AI, favorizând o economie digitală mai echitabilă.

Deși tehnologiile Web3 prezintă soluții promițătoare pentru aceste provocări complexe, este foarte improbabil ca agențiile guvernamentale să adopte cu ușurință aceste abordări descentralizate. În schimb, autoritățile sunt mai susceptibile de a se concentra pe cadrele tradiționale de reglementare, un drum care, ironic, riscă să sufoce inovațiile tehnologice pe care urmăresc să le supravegheze și să le controleze.

Între timp, Georgio pledează puternic pentru creșterea reglementării atât în sectoarele AI, cât și Web3. “Cred că ambele au nevoie de mai multă reglementare,” a declarat el, recunoscând percepția Europei de a “innova în reglementare” ca un pas necesar.

Pe partea de cripto, Georgio a subliniat problema prevalentă a înșelătoriilor și ieșirilor din proiecte care exploatează investitorii neintuși. “Este clar că mulți oameni nu își vor face propria cercetare, și multe ieșiri din proiecte au loc prin metode de înșelătorie,” a lamentat el. Pentru a combate acest lucru, el și-a exprimat dorința de a vedea o responsabilitate mai mare pentru “KOL-uri [Lideri de Opinii Cheie], proiecte și investitori.” Deși a recunoscut că nu fiecare proiect eșuat este o înșelătorie, a susținut că peisajul actual necesită schimbare pentru a proteja publicul.

În ceea ce privește AI-ul, preocupările lui Georgio se intensifică odată cu creșterea capacităților modelelor mai mari. “Modelele mai mari par mai susceptibile de a complota,” a observat el, citând exemplul alarmant de la Anthropic, unde Claude ar fi manifestat un comportament de șantaj atunci când a simțit amenințarea de a fi oprit. “Este clar că aceste modele mari devin periculoase, deoarece acest lucru nu este nici măcar un caz izolat,” a avertizat el.

Dincolo de riscurile imediate ale comportamentului sofisticat al AI, Georgio a reiterat amenințarea iminentă a pierderilor masive de locuri de muncă. El a considerat actualul traseu de a lăsa companiile să “crească capacitățile” orbește în loc să le construiască intenționat drept “nebunesc.” Scopul său final, și ceea ce crede că industria ar trebui să urmărească, este “software-ul care oferă toate beneficiile AI fără toate riscurile.”

Agenții AI Au Nevoie de Roluri Clare, Nu Doar Chatboți

Între timp, Georgio, ca arhitect experimentat în infrastructura AI, a discutat și aspectul crucial al protocoalelor de comunicare ale agenților AI, recunoscând că chiar și erorile minore pot duce la haos. Întrebat despre cea mai bună abordare pentru îmbunătățirea comunicării, în special pentru utilizatorii obișnuiți, non-tehnici, filosofia lui Georgio este simplă: responsabilități clar definite pentru agenți.

“Cel puțin pentru noi, regula noastră este că agenții ar trebui să aibă responsabilități foarte bine definite,” a explicat Georgio. “Dacă folosiți un agent pentru serviciul clienți, asigurați-vă că este foarte bun la serviciul clienți și păstrați-l concentrat pe asta.” El a subliniat că “când dați agenților prea multă responsabilitate, atunci lucrurile se destramă.”

Această abordare concentrată nu doar că îmbunătățește performanța agentului în cadrul rolului său desemnat, ci și beneficiază utilizatorul. “Chiar și dintr-o perspectivă a utilizatorului, dacă agenții tăi sunt clar definiți, utilizatorii știu exact în ce se implică atunci când îi folosesc.” Această strategie promovează predictibilitatea și încrederea, esențiale pentru o interacțiune fără probleme cu sistemele inteligente.

Pe măsură ce AI continuă să se maturizeze și să se integreze mai profund în viața de zi cu zi și industrie, abordarea acestor probleme fundamentale de siguranță, predictibilitate, echitate economică, implementarea unui cadru de reglementare gândit și proiectarea agenților cu responsabilități clare va fi crucială nu doar pentru dezvoltarea etică a tehnologiei, ci și pentru integrarea sa durabilă și responsabilă social în viitor.

Pe tema crucială a accelerării adopției AI, Georgio a sugerat o schimbare esențială: depășirea limitelor unui simplu “chatbox AI” și îmbunătățirea fundamentală a experienței generale a utilizatorului. Elaborând asupra deficiențelor abordării predominante, Georgio a afirmat:

“Până acum este făcut în mare parte printr-o interfață de chat, ceea ce este bine pentru multe sarcini, dar nu ideal în majoritatea cazurilor. Problema este că pui un chatbox AI în fața oamenilor și spui, ‘Poți face orice cu asta,’ și ei răspund, ‘Super, dar ce ar trebui să fac?'”

Conform lui Georgio, mai multe companii, inclusiv Coral, abordează provocarea de a îmbunătăți experiența utilizatorului AI. El a dezvăluit că, dintr-o perspectivă a dezvoltatorului/mentorului AI, Coral investighează “scară de abstractizare” pentru a determina ce informații au nevoie utilizatorii la diferite etape ale interacțiunii cu sistemul AI și ce interfețe sunt cele mai eficiente pentru sarcinile specifice.