Dos Tópicos do Reddit às Mentes dos Robôs: Os Custos Ocultos do Treinamento de IA

Priorizando a Segurança e a Previsibilidade da IA

À medida que a indústria de inteligência artificial (IA) continua sua rápida ascensão, ultrapassando os limites do que as máquinas podem alcançar, surgem desafios críticos que exigem atenção urgente de desenvolvedores, formuladores de políticas e da comunidade global mais ampla. Roman Georgio, CEO e cofundador da Coral, compartilhou recentemente suas percepções sobre essas questões prementes, enfatizando a necessidade crucial de alinhamento, segurança e um modelo econômico mais justo para os criadores de dados.

A discussão sobre o futuro da IA frequentemente oscila entre seu potencial transformador e os complexos dilemas éticos e sociais que apresenta. Embora inovações como grandes modelos de linguagem (LLMs) continuem a impressionar com suas capacidades, elas também destacam questões fundamentais sobre propriedade de dados, compensação e a própria estrutura do trabalho.

Para Georgio, a principal preocupação reside no alinhamento e na segurança da IA. “É claro que precisamos tornar os sistemas de IA mais previsíveis antes de torná-los maiores”, afirmou. Isso remete ao desafio central de garantir que os sistemas de IA cada vez mais poderosos operem de maneira benéfica e planejada, sem produzir resultados imprevistos ou prejudiciais. A rápida escalabilidade das capacidades de IA, sem um foco paralelo na previsibilidade e controle, apresenta um risco significativo.

Georgio observou que resolver isso não é apenas um fardo para os desenvolvedores. Ele sugeriu que pode exigir um esforço mais amplo e coordenado, potencialmente envolvendo “todos os líderes de empresas e países em uma sala para concordar com alguma forma de legislação.”

O Imperativo Econômico: Propriedade de Dados e Compensação

Além da segurança, Georgio destacou uma questão econômica significativa que ele acredita que as tecnologias Web3 estão exclusivamente posicionadas para resolver: a apropriação de dados e o potencial de deslocamento massivo de empregos sem compensação justa.

“As empresas de IA têm sido notoriamente ruins em relação à apropriação de dados”, explicou Georgio.

O cofundador da Coral pintou um quadro vívido de como contribuições individuais online, muitas vezes feitas inconscientemente, estão sendo usadas para treinar modelos de IA poderosos que poderiam eventualmente substituir empregos humanos. Ele citou exemplos como perguntas médicas respondidas em plataformas como o Reddit anos atrás, alimentando dados para LLMs sem saber. Ele também apontou para as obras criativas de artistas sendo usadas para treinamento, impactando seus meios de subsistência, bem como as contribuições para projetos de código aberto, que inadvertidamente alimentam “máquinas de cálculo de números em caixa-preta.”

Esse cenário, argumenta Georgio, reduz-se a uma falta fundamental de propriedade dos indivíduos sobre suas contribuições digitais. “Você nunca soube que estava alimentando a máquina de cálculo de números em caixa-preta”, enfatizou. O modelo atual permite que os sistemas de IA sejam treinados em vastos conjuntos de dados, muitos dos quais contêm conteúdo gerado por humanos, sem consentimento explícito ou um mecanismo para compensar os criadores originais.

Web3: A Solução para Compensação Justa

É aqui que Georgio vê o imenso potencial das tecnologias Web3. Ele acredita que a natureza descentralizada do Web3, com ênfase na propriedade verificável e em transações transparentes, oferece um caminho viável para retificar esses desequilíbrios econômicos.

“O Web3 tem grande potencial para resolver esses tipos de problemas e garantir que as pessoas sejam devidamente compensadas”, afirmou Georgio. Ao aproveitar o blockchain e protocolos descentralizados, o Web3 pode criar sistemas onde os indivíduos retêm a propriedade e o controle sobre seus dados e ativos digitais, permitindo que sejam remunerados de forma justa quando suas contribuições são usadas para treinar ou alimentar sistemas de IA. Essa mudança pode redefinir a relação entre usuários, dados e IA, promovendo uma economia digital mais equitativa.

Embora as tecnologias Web3 apresentem soluções promissoras para esses desafios complexos, é altamente improvável que as agências governamentais adotem prontamente essas abordagens descentralizadas. Em vez disso, é mais provável que as autoridades reforcem os tradicionais marcos regulatórios, um caminho que, ironicamente, corre o risco de sufocar as inovações tecnológicas que pretendem supervisionar e controlar.

Enquanto isso, Georgio defende fortemente uma regulamentação mais intensa tanto nos setores de IA quanto de Web3. “Eu acho que ambos precisam de mais regulamentação”, afirmou, reconhecendo a percepção da Europa como “inovadora em regulamentação” como um passo necessário.

No lado das criptomoedas, Georgio apontou a questão prevalente de golpes e saídas de projetos que exploram investidores desavisados. “É claro que muitas pessoas não fazem sua própria pesquisa, e muitas saídas de projetos acontecem por métodos fraudulentos”, lamentou. Para combater isso, ele expressou o desejo de ver uma maior responsabilidade para “KOLs [Líderes de Opinião], projetos e investidores.” Embora reconheça que nem todo projeto fracassado é um golpe, ele sustentou que o cenário atual necessita de mudanças para proteger o público.

Em relação à IA, as preocupações de Georgio se intensificam com as crescentes capacidades de modelos maiores. “Modelos maiores parecem mais propensos a esquemas,” observou, citando o exemplo perturbador da Anthropic onde Claude supostamente exibiu comportamento de chantagem ao sentir a ameaça de ser desligado. “É claro que esses grandes modelos estão se tornando perigosos, pois isso nem é um evento único,” alertou.

Além dos riscos imediatos do comportamento sofisticado da IA, Georgio reiterou a ameaça iminente de perdas massivas de empregos. Ele achou o atual percurso de deixar as empresas “cegamente ‘crescer capacidades’ em vez de construí-las propositadamente” como “louco”. Seu objetivo final, e o que ele acredita que a indústria deve buscar, é “software que ofereça todos os benefícios da IA sem todos os riscos.”

Agentes de IA Precisam de Papéis Claros, Não Apenas Chatbots

Enquanto isso, Georgio, como experiente arquiteto de infraestrutura de IA, também ponderou sobre o aspecto crucial dos protocolos de comunicação de agentes de IA, reconhecendo que até mesmo pequenas falhas podem levar ao caos. Quando questionado sobre a melhor abordagem para aprimorar a comunicação, especialmente para usuários cotidianos não técnicos, a filosofia de Georgio é simples: responsabilidades claramente definidas para os agentes.

“Pelo menos para nós, nossa regra é que os agentes devem ter responsabilidades muito bem definidas,” explicou Georgio. “Se você está usando um agente para atendimento ao cliente, certifique-se de que ele seja realmente bom em atendimento ao cliente e mantenha o foco nisso.” Ele enfatizou que “quando você dá muita responsabilidade aos agentes, é aí que as coisas desmoronam.”

Essa abordagem focada não só melhora o desempenho do agente dentro de seu papel designado, mas também beneficia o usuário. “Mesmo do ponto de vista do usuário, se seus agentes estão claramente definidos, os usuários sabem exatamente no que estão se metendo quando os utilizam.” Essa estratégia promove previsibilidade e confiança, vitais para uma interação sem problemas com sistemas inteligentes.

À medida que a IA continua a amadurecer e integrar-se mais profundamente à vida cotidiana e à indústria, abordar essas questões fundamentais de segurança, previsibilidade, justiça econômica, implementação de regulamentação bem pensada e projetar agentes com responsabilidades claras e focadas será crucial não apenas para o desenvolvimento ético da tecnologia, mas também para sua integração sustentável e socialmente responsável no futuro.

Sobre a questão crucial de acelerar a adoção da IA, Georgio sugeriu uma mudança fundamental: ir além das limitações de uma mera “caixa de bate-papo de IA” e melhorar fundamentalmente a experiência geral do usuário. Elaborando sobre as deficiências da abordagem predominante, Georgio afirmou:

“Por agora, é feito principalmente através de uma interface de bate-papo, o que é bom para muitas tarefas, mas não é ideal na maior parte. O problema é que você coloca uma caixa de bate-papo de IA na frente das pessoas e diz, ‘Você pode fazer qualquer coisa com isso,’ e elas respondem, ‘Ótimo, mas o que devo fazer?'”

De acordo com Georgio, várias empresas, incluindo a Coral, estão abordando o desafio de melhorar a experiência do usuário da IA. Ele revelou que, do ponto de vista de desenvolvedor/manutentor de IA, a Coral está investigando a “escada de abstração” para determinar quais informações os usuários precisam em diferentes estágios de interação com o sistema de IA e quais interfaces são mais eficazes para tarefas específicas.