Especialista em IA: Protocolos de Verdade Podem se Tornar o SSL da Era da Informação

Desinformação e Seus Perigos

O ano de 2024 serviu como um forte alerta sobre os perigos que a inteligência artificial (IA) pode representar se nenhuma salvaguarda for colocada em prática. Pelo mundo, desde o grande exercício democrático da Índia até o tenso clima político de Taiwan, as campanhas de desinformação geradas por IA deixaram sua marca.

Em Taiwan, âncoras de notícias deepfake borraram as linhas entre realidade e fabricação, enquanto nos Estados Unidos, um áudio falso do presidente Biden supostamente desencorajando os democratas de New Hampshire a votar ressaltou a facilidade com a qual a IA pode ser utilizada para manipulação política. O volume e a sofisticação desse mídia sintética deixaram muitos se sentindo à deriva em um mar de incertezas, lutando para discernir fato de ficção.

No entanto, alguns especialistas, como Yannick Myson, fundador e CEO da Swarm Network, argumentam que o problema é mais profundo do que a manipulação eleitoral. Ele cita a psicose induzida por IA, um fenômeno perturbador de pessoas desenvolvendo delírios grandiosos, que alguns estudos associam a interações prolongadas com chatbots de IA. O custo dessa psicose induzida por IA foi imenso; alguns perderam empregos enquanto outros acabaram em tratamento psiquiátrico.

“Assim como deepfakes exploram nossos atalhos de processamento visual, a psicose por IA explora nossas vulnerabilidades psicológicas, com chatbots servindo como câmaras de eco perfeitas que validam e amplificam o pensamento delirante,” disse Myson.

Soluções Centralizadas vs. Descentralizadas

Myson acredita que as medidas reativas atuais, como iniciativas de verificação de fatos remendadas, são apenas insuficientes para combater esse problema crescente. “O que a indústria está percebendo é que a verificação de fatos remendada não consegue acompanhar a velocidade da mídia sintética ou a manipulação psicológica dos sistemas de IA,” ele afirma.

Sua solução, incorporada na Swarm Network, é uma abordagem proativa: incorporar verificação em escala. Isso envolve estabelecer a proveniência no próprio ponto de criação do conteúdo, garantindo que a origem da informação digital possa ser rastreada e autenticada. Além disso, Myson defende sistemas de verificação descentralizados, onde a informação é verificada e validada à medida que se espalha pela esfera digital.

Essa visão de uma robusta “infraestrutura da verdade” ressoa com uma preocupação crescente dentro da indústria de IA. À medida que a tecnologia continua avançando rapidamente, as implicações éticas e sociais de seu uso indevido estão se tornando cada vez mais evidentes. A erosão da confiança na informação digital, alimentada por falsidades sofisticadas geradas por IA, representa uma ameaça significativa aos processos democráticos, à coesão social e até mesmo ao bem-estar mental individual.

Para combater isso, alguns defenderam uma resposta regulatória, citando instâncias passadas quando isso provou ser uma ferramenta vital na proteção dos usuários contra riscos potenciais associados a novas tecnologias. No entanto, críticos alertam que isso poderia ter o efeito não intencional de sufocar a inovação, uma afirmação com a qual Myson parece concordar.

“A regulação pode ajudar, mas apenas se evitar a armadilha de centralizar a verdade. Vimos governos usarem as ‘leis de desinformação’ para silenciar o debate,” afirmou o CEO da Swarm Network.

Para apoiar essa afirmação, Myson apontou como burocratas da UE estão supostamente usando o Digital Services Act (DSA) da União Europeia, que exige a remoção de conteúdo “prejudicial” amplamente definido, como “uma ferramenta para restringir o discurso aberto ao redor do mundo.” Myson argumenta que a AI Act da UE também cria problemas semelhantes.

Em vez de promulgar peças como o DSA ou a AI Act, Myson defende a transparência obrigatória, rotulagem clara de mídia sintética e padrões de proveniência aberta como C2PA. “As regras devem impor provas, não opiniões,” argumentou.

O Futuro da Verificação

De acordo com o CEO, grandes plataformas de mídia social como Meta e TikTok reconhecem isso e desde então mudaram para abordagens mais descentralizadas de verificação de fatos.

“Essa mudança representa um reconhecimento fundamental de que a verificação de fatos centralizada cria gargalos e pontos únicos de falha. O futuro da verificação de conteúdo não é dar a governos ou corporações o poder de decidir o que é verdade,” afirmou o CEO.

Myson acredita que essa mudança torna soluções como a oferecida pela Swarm Network cruciais. Em vez de confiar em um punhado de verificadores de fatos centralizados, a Swarm usa “agentes de IA trabalhando ao lado de revisores humanos para criar um registro auditável, em cadeia, de alegações verificadas.”

De fato, agentes de IA estão rapidamente se movendo de conceitos teóricos para aplicações práticas, mudando fundamentalmente o modo como vários setores operam. O principal benefício desses agentes é sua capacidade de automatizar e otimizar. Eles podem processar grandes quantidades de dados em um curto período, identificar padrões que os humanos podem perder e operar 24/7 sem fadiga.

Ainda assim, a adoção generalizada de agentes de IA também introduz desafios complexos que precisam ser cuidadosamente abordados. Para superar alguns desses desafios, Myson disse que a abordagem de sua empresa “é transformar agentes em colaboradores transparentes, não oráculos não verificados.” Ele acrescentou:

“Na Swarm, os agentes decompõem informações em pequenas alegações testáveis, eles se verificam mutuamente, e onde é necessário nuance, os humanos intervêm. Cada etapa é registrada e ancorada em cadeia, então seu raciocínio é reproduzível. Em resumo: sem caixas pretas, apenas trilhas verificáveis.”

Enquanto isso, Myson acredita que, nos próximos cinco anos, a verificação de fatos evoluirá de um processo manual para um recurso incorporado na vida digital, e os agentes de IA serão avaliados por sua transparência, não apenas velocidade. A visão final é tornar a verdade uma camada fundamental da internet.

“Da mesma forma que o SSL se tornou o padrão para o tráfego da web, um protocolo de verdade se tornará o padrão para informação. E é assim que impedimos que a IA afogue o mundo em ruído,” concluiu Myson.