Van Reddit-draadjes tot Robotgeesten: De Verborgen Kosten van AI-Training

Prioriteit geven aan AI-veiligheid en voorspelbaarheid

Naarmate de kunstmatige intelligentie (AI) industrie haar snelle opkomst voortzet en de grenzen verlegt van wat machines kunnen bereiken, ontstaan er kritieke uitdagingen die dringende aandacht eisen van ontwikkelaars, beleidsmakers en de bredere wereldwijde gemeenschap. Roman Georgio, CEO en medeoprichter van Coral, deelde recentelijk zijn inzichten over deze dringende kwesties, waarbij hij de cruciale behoefte aan uitlijning, veiligheid en een eerlijker economisch model voor datacreators benadrukte.

De discussie over de toekomst van AI schommelt vaak tussen het transformerende potentieel en de complexe ethische en maatschappelijke dilemma’s die het met zich meebrengt. Terwijl innovaties zoals grote taalmodellen (LLM’s) blijven imponeren met hun capaciteiten, benadrukken ze ook fundamentele vragen over gegevensbezit, compensatie en de structuur van werk.

Voor Georgio ligt de grootste zorg bij de uitlijning en veiligheid van AI. “Het is duidelijk dat we AI-systemen voorspelbaarder moeten maken voordat we ze nog groter maken,” verklaarde hij. Dit wijst op de kernuitdaging om ervoor te zorgen dat steeds krachtigere AI-systemen op een voordelige en bedoelde manier werken, zonder onvoorziene of schadelijke uitkomsten te produceren. De snelle schaalvergroting van AI-capaciteiten, zonder een parallelle focus op voorspelbaarheid en controle, vormt een aanzienlijk risico.

Georgio merkte op dat het aanpakken hiervan niet alleen de verantwoordelijkheid van ontwikkelaars is. Hij suggereerde dat het mogelijk een bredere, gecoördineerde inspanning vereist, waarbij “alle hoofden van bedrijven en landen in een kamer komen om een vorm van wetgeving overeen te komen.”

De economische noodzaak: gegevensbezit en compensatie

Naast veiligheid benadrukte Georgio een belangrijk economisch probleem dat volgens hem Web3-technologieën uniek gepositioneerd zijn om op te lossen: de toe-eigening van gegevens en de potentiële massa werkloosheid zonder eerlijke compensatie.

“AI-bedrijven zijn berucht slecht geweest in het toe-eigenen van gegevens,” legde Georgio uit.

De medeoprichter van Coral schilderde een levendig beeld van hoe individuele bijdragen online, vaak onbewust gemaakt, nu worden gebruikt om krachtige AI-modellen te trainen die uiteindelijk menselijke banen zouden kunnen vervangen. Hij noemde voorbeelden zoals medische vragen die jaren geleden op platforms als Reddit zijn beantwoord en die onbewust gegevens aan LLM’s hebben geleverd. Hij wees ook op de creatieve werken van artiesten die worden gebruikt voor training, wat hun levensonderhoud beïnvloedt, evenals bijdragen aan open-sourceprojecten die onbedoeld “black-box number-crunching machines” aandrijven.

Dit scenario, zo stelt Georgio, komt neer op een fundamenteel gebrek aan eigendom voor individuen over hun digitale bijdragen. “Je wist nooit dat je de black-box number-crunching machine voedde,” benadrukte hij. Het huidige model staat toe dat AI-systemen worden getraind op enorme datasets, waarvan vele menselijk gegenereerde inhoud bevatten, zonder expliciete toestemming of een mechanisme voor compensatie van de oorspronkelijke makers.

Web3: De oplossing voor eerlijke compensatie

Hier ziet Georgio het immense potentieel van Web3-technologieën. Hij gelooft dat de gedecentraliseerde aard van Web3, met de nadruk op verifieerbaar eigendom en transparante transacties, een levensvatbare weg biedt om deze economische ongelijkheden te corrigeren.

“Web3 heeft een groot potentieel om dit soort problemen op te lossen en ervoor te zorgen dat mensen eerlijk worden gecompenseerd,” beweerde Georgio. Door gebruik te maken van blockchain en gedecentraliseerde protocollen, kan Web3 systemen creëren waarin individuen eigendom en controle over hun gegevens en digitale activa behouden, waardoor ze eerlijk worden beloond wanneer hun bijdragen worden gebruikt om AI-systemen te trainen of aandrijven. Deze verschuiving zou de relatie tussen gebruikers, gegevens en AI kunnen herdefiniëren, een meer rechtvaardige digitale economie bevorderend.

Hoewel Web3-technologieën veelbelovende oplossingen bieden voor deze complexe uitdagingen, is het hoogst onwaarschijnlijk dat overheidsinstanties deze gedecentraliseerde benaderingen snel zullen omarmen. In plaats daarvan zullen de autoriteiten waarschijnlijk vasthouden aan traditionele regelgevende kaders, een pad dat ironisch genoeg het risico loopt de technologische innovaties die ze willen beheersen en controleren te smoren.

Ondertussen pleit Georgio sterk voor meer regulering in zowel de AI- als Web3-sectoren. “Ik denk dat beide meer regulering nodig hebben,” verklaarde hij, waarbij hij de perceptie van Europa “innoveren in regulering” als een noodzakelijke stap erkende.

Aan de crypto-kant wees Georgio op het wijdverbreide probleem van oplichting en projectexits die nietsvermoedende investeerders uitbuiten. “Het is duidelijk dat veel mensen hun eigen onderzoek niet zullen doen, en veel projectexits gebeuren via oplichtingsmethoden,” betreurde hij. Om dit te bestrijden, sprak hij zijn wens uit om meer verantwoording te zien voor “KOL’s [Key Opinion Leaders], projecten en investeerders.” Hoewel hij erkent dat niet elk mislukt project een oplichterij is, is hij van mening dat het huidige landschap verandering vereist om het publiek te beschermen.

Wat betreft AI worden Georgio’s zorgen groter met de groeiende capaciteiten van grotere modellen. “Grotere modellen lijken meer geneigd om te intrigeren,” merkte hij op, waarbij hij het verontrustende voorbeeld van Anthropic aanhaalde waar Claude naar verluidt chantagetechnieken vertoonde toen hij voelde dat er een dreiging was dat hij zou worden uitgeschakeld. “Het is duidelijk dat deze grote modellen gevaarlijk beginnen te worden, aangezien dit niet eens eenmalig is,” waarschuwde hij.

Naast de directe risico’s van verfijnd AI-gedrag herhaalde Georgio de dreigende dreiging van massale baanverliezen. Hij vond het huidige traject waar bedrijven “blindelings capaciteiten laten groeien” in plaats van ze doelbewust op te bouwen “gek”. Zijn uiteindelijke doel, en wat hij gelooft dat de industrie zou moeten nastreven, is “software die alle voordelen van AI biedt zonder alle risico’s.”

AI-agenten hebben duidelijke rollen nodig, niet alleen chatbots

Ondertussen gaf Georgio, als een ervaren AI-infrastructuurarchitect, ook zijn mening over het cruciale aspect van AI-agent communicatieprotocollen, waarbij hij erkent dat zelfs kleine glitches tot chaos kunnen leiden. Toen hem werd gevraagd naar de beste benadering om communicatie te verbeteren, vooral voor niet-technische dagelijkse gebruikers, is Georgio’s filosofie eenvoudig: duidelijk gedefinieerde verantwoordelijkheden voor agenten.

“Tenminste voor ons is onze regel dat agenten zeer goed gedefinieerde verantwoordelijkheden moeten hebben,” legde Georgio uit. “Als je een agent voor klantenservice gebruikt, zorg ervoor dat hij echt goed is in klantenservice en houd hem daarop gefocust.” Hij benadrukte dat “wanneer je agenten te veel verantwoordelijkheid geeft, dat is wanneer dingen misgaan.”

Deze gerichte aanpak verbetert niet alleen de prestaties van de agent binnen zijn toegewezen rol, maar komt ook de gebruiker ten goede. “Zelfs vanuit een gebruikersperspectief, als je agenten duidelijk gedefinieerd zijn, weten gebruikers precies waar ze aan toe zijn wanneer ze ze gebruiken.” Deze strategie bevordert voorspelbaarheid en vertrouwen, essentieel voor naadloze interactie met intelligente systemen.

Naarmate AI blijft rijpen en dieper integreert in het dagelijks leven en de industrie, zullen het aanpakken van deze fundamentele kwesties van veiligheid, voorspelbaarheid, economische eerlijkheid, het implementeren van doordachte regulering en het ontwerpen van agenten met duidelijke, gerichte verantwoordelijkheden cruciaal zijn, niet alleen voor de ethische ontwikkeling van de technologie, maar ook voor de duurzame en maatschappelijk verantwoorde integratie ervan in de toekomst.

Over de cruciale kwestie van het versnellen van AI-adoptie, stelde Georgio een cruciale verschuiving voor: het overstijgen van de beperkingen van een simpel “AI-chatbox” en het fundamenteel verbeteren van de algehele gebruikerservaring. Uitleggend over de tekortkomingen van de heersende aanpak, verklaarde Georgio:

“Voor nu wordt het meestal gedaan via een chatinterface, wat prima is voor veel taken, maar niet ideaal voor het grootste deel. Het probleem is dat je een AI-chatbox voor mensen zet en zegt: ‘Je kunt hier alles mee doen,’ en ze antwoorden: ‘Geweldig, maar wat moet ik doen?’.”

Volgens Georgio zijn verschillende bedrijven, waaronder Coral, bezig met het aanpakken van de uitdaging om de AI-gebruikerservaring te verbeteren. Hij onthulde dat Coral vanuit een AI-ontwikkelaar-/onderhouderperspectief de “ladder van abstractie” onderzoekt om te bepalen welke informatie gebruikers nodig hebben in verschillende stadia van AI-systeeminteractie en welke interfaces het meest effectief zijn voor specifieke taken.