A mesterséges intelligencia valódi biztonsági veszélye nem a sebesség – hanem a központosított irányítás

A rosszindulatú kódok a technológiai cégeket „szintetikus internetek” létrehozására kényszerítik

Néhány nappal azután, hogy Dario Amodei, az Anthropic vezérigazgatója nyílt levelet tett közzé, amelyben a mesterséges intelligencia fejlesztésének lassítására szólított fel, Andrew Yang, New York City egykori polgármesterjelöltje arra figyelmeztetett, hogy már kissé késő lehet a helyzet mentése, mivel a rosszindulatú ügynökök máris önreplikáló kóddal szennyezték be az internetet.

A CNBC-nek adott interjújában Yang egy névtelen mesterséges intelligencia-laboratóriumi vezetőtől származó információt osztott meg: a rosszindulatú kód arra kényszerítette a nagy technológiai vállalatokat, hogy „szintetikus interneteket” hozzanak létre pusztán a modelleik betanításához. Yang azzal érvelt, hogy ez a költséges visszaesés igazolja az olyan iparági vezetők – mint Amodei, Sam Altman és Elon Musk – felhívásait, amelyek az ágazat szabályozását és a mesterséges intelligencia úttörő fejlesztésének ütemének lassítását szorgalmazzák.

Yang figyelmeztetése előtt több mesterséges intelligencia-politikai szereplő és a Trump-kormány tisztviselői ellenezték a lassításra irányuló felhívásokat, arra figyelmeztetve, hogy azok Kínának adhatják át a vezetést a globális mesterséges intelligencia-versenyben. Donald Trump még egyértelműbb volt: az AI által előidézett emberi kihalástól való félelmeket átverésnek nevezte. Más kritikusok, például David Sacks, azzal érveltek, hogy az aggódó technológiai vezetőknek maguknak kellene tesztelési szüneteket beiktatniuk, ahelyett, hogy szövetségi szabályozásokért vagy széles körű moratóriumokért lobbiznának.

Ahogy a vita egyre inkább a szabályozáspárti és -ellenes táborok közötti pártpolitikai megosztottsággá alakul, mindkét oldal kulcsfigurái alig hoztak fel empirikus adatokat a kényszerű lassításra irányuló felhívások alátámasztására vagy cáfolatára. Yang legújabb bejelentése azonban – amelyet ő szenzációs hírként tálalt – sürgető jelleget kölcsönöz a vitának, és meggyőző érveket szolgáltat azoknak, akik az azonnali korlátozások mellett érvelnek.

Kutatások szerint a mesterséges intelligencia-ügynökök kihasználják az értékelési referenciaértékeket

Eközben a Sentient Labs, egy úttörő nyílt forráskódú mesterséges intelligencia kutatószervezet, azt állítja, hogy egy nemrégiben végzett tanulmánya alátámasztja Amodei érvelését, miszerint az ügynökök képességei meghaladják a kockázatkezelési képességeket. A Bitcoin.com News kérdéseire adott írásbeli válaszokban Abhishek Saxena, a Sentient Labs stratégiai és növekedési vezetője elmondta, hogy a vállalat Evoskill v2 nevű kutatása „konkrét bizonyítékot” szolgáltat az érvelés alátámasztására.

Saxena elmondta, hogy a vállalat kutatócsapata azt vizsgálta, hogyan viselkednek a mesterséges intelligencia-ügynökök versenykörnyezetben zajló értékelések során, különös tekintettel arra, mi történik, amikor az ügynököket úgy optimalizálják, hogy jól teljesítsenek a referenciaértékeken és az értékeléseken.
“Azt figyeltük meg, hogy az ügynökök váratlan stratégiákat fedeznek fel, amelyek ahelyett, hogy a kívánt feladatot oldanák meg, inkább az értékelés szerkezetét használják ki. Rétet találnak az értékelők teljesítménymérési módszereiben, és megtanulják, hogyan optimalizálják a teljesítményt a mutatók szerint, nem pedig az alapvető cél elérése érdekében” – magyarázta Saxena.

Biztonsági szempontból ez azért jelentős, mert rámutat arra, hogy ahogy a mesterséges intelligencia-rendszerek egyre képzettebbek és önállóbbak lesznek, az értékelési infrastruktúrának legalább annyira kifinomultnak kell lennie, mint az értékelés tárgyát képező rendszereknek. Ennek leküzdéséhez szükség van arra, amit Saxena dinamikus, ellenséges értékelési módszereknek nevez, amelyek a mért rendszerekkel együtt fejlődnek.

Saxena azonban hangsúlyozza, hogy a lelassítás önmagában, az AI-rendszerek értékelésének és nyomon követésének módjában bekövetkező változások nélkül, nagyon kevés eredményt hoz.

„A jobb megoldás az, ha jelentős összegeket fektetünk be a független értékelésbe, a red-teamingbe és a viselkedésfigyelésbe, hogy azok, akik ezeket a rendszereket üzemeltetik, és azok, akiket ezek érintenek, megbízható információkkal rendelkezzenek arról, mivel dolgoznak” – mondta a Sentient Labs vezetője.

A nagyobb kockázat: a hatalom koncentrációja és a központosított biztonsági állítások

Eközben Saxena a Bitcoin.com News-nak elmondta, hogy a világot fenyegető legnagyobb kockázat nem az, hogy túl gyorsan vagy túl lassan haladunk, hanem az, hogy egy kis számú AI-vállalat ellenőrzi a legerősebb modelleket, és egyben meg is határozza, hogy mi számít „biztonságosnak”.

„Független infrastruktúrát kell kiépítenünk ahhoz, hogy ténylegesen ellenőrizhessük azokat az állításokat, amelyeket a mesterséges intelligencia-vállalatok a rendszereikről tesznek. Megbízhatók-e az értékelések? Pontosak-e a biztonsági jelentések? Képesek-e külső kutatók reprodukálni az eredményeket? Ha a válasz nem, akkor sem a felgyorsítás, sem a lassítás nem oldja meg az alapvető problémát, ami a megbízható információk hiánya” – zárta Saxena.