Des Threads Reddit aux Esprits Robots : Les Coûts Cachés de la Formation de l'IA

Prioriser la sécurité et la prévisibilité de l’IA

Alors que l’industrie de l’intelligence artificielle (IA) poursuit son ascension rapide, repoussant les limites de ce que les machines peuvent accomplir, des défis critiques émergent qui demandent une attention urgente de la part des développeurs, des décideurs politiques et de la communauté mondiale au sens large. Roman Georgio, PDG et co-fondateur de Coral, a récemment partagé ses réflexions sur ces questions pressantes, soulignant la nécessité cruciale d’alignement, de sécurité et d’un modèle économique plus équitable pour les créateurs de données.

La discussion autour de l’avenir de l’IA oscille souvent entre son potentiel transformateur et les dilemmes éthiques et sociétaux complexes qu’elle présente. Bien que des innovations comme les grands modèles de langage (LLM) continuent d’impressionner par leurs capacités, elles soulèvent également des questions fondamentales sur la propriété des données, la compensation et la structure même du travail.

Pour Georgio, la préoccupation majeure réside dans l’alignement et la sécurité de l’IA. “Il est évident que nous devons rendre les systèmes d’IA plus prévisibles avant de les rendre plus grands”, a-t-il déclaré. Cela souligne le défi central de garantir que les systèmes d’IA de plus en plus puissants fonctionnent de manière bénéfique et intentionnée, sans produire de résultats imprévus ou nuisibles. L’augmentation rapide des capacités de l’IA, sans un accent parallèle sur la prévisibilité et le contrôle, présente un risque significatif.

Georgio a noté que s’attaquer à ce problème ne relève pas uniquement de la responsabilité des développeurs. Il a suggéré que cela pourrait nécessiter un effort coordonné plus large, impliquant potentiellement “tous les dirigeants d’entreprises et de pays dans une salle pour convenir d’une forme de législation.”

L’impératif économique : propriété et compensation des données

Au-delà de la sécurité, Georgio a souligné une question économique majeure qu’il croit que les technologies Web3 sont particulièrement bien placées pour résoudre : l’appropriation des données et le potentiel de remplacement massif d’emplois sans compensation équitable.

“Les entreprises d’IA ont notoirement été assez mauvaises pour s’approprier les données,” a expliqué Georgio.

Le co-fondateur de Coral a dressé un tableau saisissant de la façon dont les contributions individuelles en ligne, souvent faites sans le savoir, sont désormais utilisées pour former des modèles d’IA puissants qui pourraient éventuellement remplacer des emplois humains. Il a cité des exemples tels que des questions médicales répondues sur des plates-formes comme Reddit il y a des années, alimentant sans le savoir les données des LLM. Il a également souligné que les œuvres créatives des artistes sont utilisées pour la formation, impactant leurs moyens de subsistance, ainsi que les contributions aux projets open-source, alimentant involontairement des “machines de calcul en boîte noire.”

Ce scénario, selon Georgio, se résume à un manque fondamental de propriété pour les individus sur leurs contributions numériques. “Vous n’avez jamais su que vous alimentiez la machine de calcul en boîte noire,” a-t-il souligné. Le modèle actuel permet aux systèmes d’IA d’être formés sur de vastes ensembles de données, dont beaucoup contiennent du contenu généré par des humains, sans consentement explicite ni mécanisme de compensation pour les créateurs originaux.

Web3 : la solution pour une compensation équitable

C’est là que Georgio voit le potentiel immense des technologies Web3. Il pense que la nature décentralisée du Web3, avec son accent sur la propriété vérifiable et les transactions transparentes, offre une voie viable pour rectifier ces déséquilibres économiques.

“Le Web3 a un grand potentiel pour résoudre ces types de problèmes et garantir que les gens sont équitablement compensés,” a affirmé Georgio. En utilisant la blockchain et les protocoles décentralisés, le Web3 peut créer des systèmes où les individus conservent la propriété et le contrôle de leurs données et actifs numériques, leur permettant d’être équitablement rémunérés lorsque leurs contributions sont utilisées pour former ou alimenter des systèmes d’IA. Ce changement pourrait redéfinir la relation entre les utilisateurs, les données et l’IA, favorisant une économie numérique plus équitable.

Bien que les technologies Web3 présentent des solutions prometteuses à ces défis complexes, il est hautement improbable que les agences gouvernementales embrasseront facilement ces approches décentralisées. Au lieu de cela, les autorités sont plus susceptibles de renforcer les cadres réglementaires traditionnels, un chemin qui, ironiquement, risque d’étouffer les innovations technologiques mêmes qu’elles visent à superviser et contrôler.

Georgio, quant à lui, plaide fermement pour une réglementation accrue dans les secteurs de l’IA et du Web3. “Je pense que les deux ont besoin de plus de réglementation,” a-t-il déclaré, reconnaissant la perception de l’Europe “innovant dans la réglementation” comme une étape nécessaire.

Du côté de la crypto, Georgio a souligné le problème prévalent des arnaques et des sorties de projet qui exploitent les investisseurs naïfs. “Il est clair que beaucoup de gens ne feront pas leurs propres recherches, et de nombreuses sorties de projet se font par des méthodes d’arnaque,” a-t-il déploré. Pour y remédier, il a exprimé le désir de voir une plus grande responsabilité pour “les KOL [leaders d’opinion clés], les projets et les investisseurs.” Tout en reconnaissant que tous les projets échoués ne sont pas des arnaques, il a maintenu que le paysage actuel nécessite un changement pour protéger le public.

Concernant l’IA, les préoccupations de Georgio s’intensifient avec les capacités croissantes des modèles plus grands. “Les modèles plus grands semblent plus susceptibles de comploter,” a-t-il observé, citant l’exemple troublant d’Anthropic où Claude aurait présenté un comportement de chantage lorsqu’il a senti une menace d’être fermé. “Il est clair que ces grands modèles deviennent dangereux car ce n’est même pas un cas isolé,” a-t-il averti.

Au-delà des risques immédiats d’un comportement sophistique de l’IA, Georgio a réitéré la menace imminente de pertes massives d’emplois. Il a trouvé que la trajectoire actuelle consistant à laisser les entreprises “développer aveuglément les capacités” au lieu de les construire intentionnellement était “insensée.” Son objectif ultime, et ce qu’il croit que l’industrie devrait viser, est “un logiciel qui offre tous les avantages de l’IA sans tous les risques.”

Les agents d’IA ont besoin de rôles clairs, pas seulement de chatbots

Pendant ce temps, Georgio, en tant qu’architecte expérimenté de l’infrastructure de l’IA, a également pesé sur l’aspect crucial des protocoles de communication des agents d’IA, reconnaissant que même des petits dysfonctionnements peuvent conduire au chaos. Lorsqu’on lui a demandé quelle était la meilleure approche pour améliorer la communication, en particulier pour les utilisateurs quotidiens non techniques, la philosophie de Georgio est simple : des responsabilités clairement définies pour les agents.

“Du moins pour nous, notre règle est que les agents doivent avoir des responsabilités très bien définies,” a expliqué Georgio. “Si vous utilisez un agent pour le service client, assurez-vous qu’il est vraiment bon en service client et gardez-le concentré sur cela.” Il a souligné que “lorsque vous donnez aux agents trop de responsabilités, c’est là que les choses s’effondrent.”

Cette approche ciblée améliore non seulement la performance de l’agent dans son rôle désigné, mais profite également à l’utilisateur. “Même du point de vue de l’utilisateur, si vos agents sont clairement définis, les utilisateurs savent exactement à quoi ils s’engagent lorsqu’ils les utilisent.” Cette stratégie promeut la prévisibilité et la confiance, essentielles pour une interaction sans faille avec les systèmes intelligents.

Alors que l’IA continue de mûrir et de s’intégrer plus profondément dans la vie quotidienne et l’industrie, aborder ces questions fondamentales de sécurité, de prévisibilité, d’équité économique, mettre en œuvre une réglementation réfléchie et concevoir des agents avec des responsabilités claires et ciblées sera crucial non seulement pour le développement éthique de la technologie mais aussi pour son intégration durable et socialement responsable dans le futur.

Sur la question cruciale de l’accélération de l’adoption de l’IA, Georgio a suggéré un changement pivot : dépasser les limites d’une simple “boîte de chat IA” et améliorer fondamentalement l’expérience utilisateur globale. En élaborant sur les lacunes de l’approche actuelle, Georgio a affirmé:

“Pour le moment, c’est surtout fait via une interface de chat, ce qui est bien pour de nombreuses tâches mais pas idéal dans l’ensemble. Le problème est que vous mettez une boîte de chat IA devant les gens et vous dites, ‘Vous pouvez tout faire avec ça,’ et ils répondent, ‘Génial, mais que devrais-je faire ?'”

Selon Georgio, plusieurs entreprises, y compris Coral, traitent le défi d’améliorer l’expérience utilisateur de l’IA. Il a révélé que du point de vue d’un développeur/mainteneur d’IA, Coral étudie l'”échelle d’abstraction” pour déterminer quelles informations les utilisateurs ont besoin à différentes étapes de l’interaction avec le système d’IA et quelles interfaces sont les plus efficaces pour des tâches spécifiques.