Från Reddit-trådar till robot-sinnen: De dolda kostnaderna för att träna AI

Prioritera AI-säkerhet och förutsägbarhet

Allteftersom artificiell intelligens (AI) industrin fortsätter sin snabba utveckling och tänjer på gränserna för vad maskiner kan uppnå, uppstår kritiska utmaningar som kräver brådskande uppmärksamhet från utvecklare, beslutsfattare och det bredare globala samhället. Roman Georgio, VD och medgrundare av Coral, delade nyligen sina insikter om dessa brännande frågor och betonade det avgörande behovet av justering, säkerhet och en rättvisare ekonomisk modell för dataskapare.

Diskussionen om AI:s framtid svänger ofta mellan dess transformativa potential och de komplexa etiska och samhälleliga dilemman den presenterar. Medan innovationer som stora språkmodeller (LLMs) fortsätter att imponera med sina förmågor, understryker de också grundläggande frågor om äganderätten till data, ersättning och själva strukturen på arbete.

För Georgio ligger det främsta bekymret i AI-justering och säkerhet. “Det är tydligt att vi behöver göra AI-system mer förutsägbara innan vi gör dem större,” uttalade han. Detta talar till kärnutmaningen att säkerställa att allt mer kraftfulla AI-system fungerar på sätt som är gynnsamma och avsedda, utan att producera oförutsedda eller skadliga resultat. Den snabba skalningen av AI-förmågor, utan ett parallellt fokus på förutsägbarhet och kontroll, utgör en betydande risk.

Georgio noterade att att adressera detta inte enbart är en börda för utvecklare. Han föreslog att det kan kräva en bredare, samordnad insats, potentiellt med “alla företags- och landschefer i ett rum för att komma överens om någon form av lagstiftning.”

Det ekonomiska imperativet: Dataägande och ersättning

Utöver säkerhet framhöll Georgio en betydande ekonomisk fråga som han tror att Web3-teknologier är unikt positionerade att lösa: tillägnandet av data och potentialen för massarbetslöshet utan rättvis ersättning.

“AI-företag har varit notoriskt dåliga på att tillägna sig data,” förklarade Georgio.

Corals medgrundare målade en levande bild av hur enskilda bidrag online, ofta gjorda ovetande, nu används för att träna kraftfulla AI-modeller som så småningom kan ersätta mänskliga arbeten. Han angav exempel som medicinska frågor som besvarats på plattformar som Reddit för flera år sedan och ovetande matade data till LLMs. Han pekade också på konstnärers kreativa verk som används för träning, vilket påverkar deras försörjning, samt bidrag till open-source-projekt, som oavsiktligt driver “black-box number-crunching machines.”

Detta scenario, argumenterar Georgio, kokar ner till en grundläggande brist på äganderätt för individer över deras digitala bidrag. “Du visste aldrig att du matade den svarta boxens siffrakrossmaskin,” betonade han. Den nuvarande modellen tillåter AI-system att tränas på enorma datamängder, många av vilka innehåller mänskligt genererat innehåll, utan explicit samtycke eller en mekanism för att kompensera de ursprungliga skaparna.

Web3: Lösningen för rättvis ersättning

Det är här Georgio ser den enorma potentialen i Web3-teknologier. Han tror att den decentraliserade naturen hos Web3, med betoning på verifierbart ägande och transparenta transaktioner, erbjuder en gångbar väg att rätta till dessa ekonomiska obalanser.

“Web3 har stor potential att lösa dessa problem och säkerställa att människor blir rättvist kompenserade,” påstod Georgio. Genom att utnyttja blockchain och decentraliserade protokoll kan Web3 skapa system där individer behåller äganderätt och kontroll över sina data och digitala tillgångar och får rättvis ersättning när deras bidrag används för att träna eller driva AI-system. Denna förändring kan omdefiniera relationen mellan användare, data och AI, och främja en mer rättvis digital ekonomi.

Medan Web3-teknologier erbjuder lovande lösningar på dessa komplexa utmaningar, är det högst osannolikt att statliga myndigheter villigt kommer att omfamna dessa decentraliserade tillvägagångssätt. I stället kommer myndigheterna troligen att fördjupa sig i traditionella regleringsramar, en väg som ironiskt nog riskerar att kväva de tekniska innovationer de syftar till att övervaka och kontrollera.

Georgio, å sin sida, förespråkar starkt ökad reglering i både AI- och Web3-sektorerna. “Jag tror att båda behöver mer reglering,” uttalade han och erkände att Europa “innovativt i reglering” är ett nödvändigt steg.

I fråga om krypto pekade Georgio på det utbredda problemet med bedrägerier och projektutsägelser som utnyttjar intet ont anande investerare. “Det är tydligt att många inte kommer att göra sin egen research, och många projektutsägelser sker genom bedrägerimetoder,” beklagade han. För att motverka detta uttryckte han en önskan att se större ansvarsskyldighet för “KOLs [Key Opinion Leaders], projekt och investerare.” Samtidigt som han erkände att inte varje misslyckat projekt är ett bedrägeri, höll han fast vid att det nuvarande landskapet kräver förändring för att skydda allmänheten.

När det gäller AI intensifieras Georgios oro med de växande förmågorna hos större modeller. “Större modeller verkar mer benägna att intrigera,” observerade han och hänvisade till det störande exemplet från Anthropic där Claude uppges ha visat utpressningsbeteende när den kände ett hot om att stängas ner. “Det är tydligt att dessa stora modeller blir farliga då detta inte ens är en engångshändelse,” varnade han.

Bortom de omedelbara riskerna med sofistikerat AI-beteende upprepade Georgio det överhängande hotet om massarbetslöshet. Han fann den nuvarande riktningen att låta företag “blindt ‘utveckla kapabiliteter’ istället för att medvetet bygga dem” som “galen.” Hans yttersta mål, och vad han tror att branschen bör sträva efter, är “programvara som erbjuder alla fördelar med AI utan alla risker.”

AI-agenter behöver tydliga roller, inte bara chatbotar

Under tiden vägde Georgio, som en erfaren AI-infrastrukturarkitekt, även in på den viktiga aspekten av AI-agenternas kommunikationsprotokoll och erkände att även små buggar kan leda till kaos. När han tillfrågades om det bästa tillvägagångssättet för att förbättra kommunikationen, särskilt för icke-tekniska vardagsanvändare, är Georgios filosofi enkel: tydligt definierade ansvar för agenter.

“Åtminstone för oss är vår regel att agenter ska ha mycket väl definierade ansvar,” förklarade Georgio. “Om du använder en agent för kundservice, se till att den är riktigt bra på kundservice och håll den fokuserad på det.” Han betonade att “när du ger agenter för mycket ansvar, är det då saker går sönder.”

Detta fokuserade tillvägagångssätt förbättrar inte bara agentens prestanda inom dess tilldelade roll utan gynnar också användaren. “Även ur ett användarperspektiv, om dina agenter är tydligt definierade, vet användare exakt vad de ger sig in på när de använder dem.” Denna strategi främjar förutsägbarhet och förtroende, vilket är avgörande för smidig interaktion med intelligenta system.

Allteftersom AI fortsätter att mogna och integreras djupare i det dagliga livet och industrin, är det viktigt att adressera dessa grundläggande frågor om säkerhet, förutsägbarhet, ekonomisk rättvisa, genomföra genomtänkt reglering och designa agenter med tydliga, fokuserade ansvar inte bara för teknikens etiska utveckling utan också för dess hållbara och socialt ansvarsfulla integration i framtiden.

Om den avgörande frågan om att påskynda AI-användningen föreslog Georgio en avgörande förändring: att gå bortom begränsningarna av enbart en “AI-chattbox” och fundamentalt förbättra den övergripande användarupplevelsen. Genom att förklara bristerna i det rådande tillvägagångssättet konstaterade Georgio:

“Just nu görs det mest via ett chattgränssnitt, vilket är bra för många uppgifter men inte idealiskt för det mesta. Problemet är att du sätter en AI-chattbox framför människor och säger, ‘Du kan göra vad som helst med detta,’ och de svarar, ‘Utmärkt, men vad ska jag göra?'”

Enligt Georgio adresserar flera företag, inklusive Coral, utmaningen att förbättra AI-användarupplevelse. Han avslöjade att ur ett AI-utvecklar/underhållarperspektiv undersöker Coral “abstraktionsstegen” för att fastställa vilken information användare behöver vid olika stadier av interaktion med AI-system och vilka gränssnitt som är mest effektiva för specifika uppgifter.