Reddit 스레드에서 로봇 마인드까지: AI 훈련의 숨겨진 비용

AI 안전성과 예측 가능성 우선화

인공지능(AI) 산업이 기계가 이룰 수 있는 한계를 확장하면서 급격히 성장함에 따라, 개발자와 정책 입안자들 뿐만 아니라 전 세계 공동체의 긴급한 관심을 요구하는 중요한 과제가 나타나고 있습니다. Coral의 CEO 겸 공동 창립자인 로만 조르지오는 이러한 시급한 문제에 대한 그의 통찰을 최근에 공유했으며, 정렬, 안전, 데이터 제작자를 위한 공정한 경제 모델의 중요성을 강조했습니다.

AI의 미래에 대한 논의는 종종 AI의 혁신적 잠재력과 그에 따른 복잡한 윤리적, 사회적 딜레마 사이를 오가곤 합니다. 대형 언어 모델(LLM)과 같은 혁신은 그 능력으로 감명을 주지만, 동시에 데이터 소유권, 보상 및 일의 구조에 대한 근본적인 질문을 촉발합니다.

조르지오가 가장 우려하는 점은 AI 정렬과 안전성입니다. 그는 “AI 시스템을 더 크게 만들기 전에 더 예측 가능하게 만들어야 한다는 것은 분명합니다”라고 말했습니다. 이는 점점 강력해지는 AI 시스템이 의도된 바에 맞게 유익하고 예상되는 방식으로 작동하도록 보장하는 핵심 과제입니다. AI 능력의 빠른 확장과 예측 가능성과 통제에 대한 병행된 집중이 없는 상태는 상당한 위험을 제기합니다.

조르지오는 이러한 문제 해결이 개발자의 부담만은 아니라고 지적하며, “회사 및 국가의 모든 지도자들이 모여 어떤 형태의 법률을 합의해야 할 수도 있다”는 보다 광범위하고 조정된 노력이 필요할 수 있음을 시사했습니다.

경제적 필요성: 데이터 소유권과 보상

안전성 외에도 조르지오는 Web3 기술이 독특한 방식으로 해결할 수 있는 중요한 경제적 문제를 강조합니다: 데이터의 착취와 공정한 보상 없이 대량으로 일자리가 사라질 수 있다는 가능성입니다.

“AI 회사들은 데이터를 착취하는 데 상당히 나쁜 평판이 있습니다,”라고 조르지오는 설명했습니다.

Coral의 공동 창립자는 개인의 온라인 기여가 무의식적으로 강력한 AI 모델 학습에 사용되며, 그로 인해 결국 인간의 일자리를 대체할 수 있는 생생한 그림을 그렸습니다. 그는 수년 전 Reddit과 같은 플랫폼에서의 의료 질문 응답 사례를 인용하며, LLM에게 데이터를 공급했던 사례를 언급했습니다. 또한, 아티스트의 창작물이 학습에 사용되어 그들의 생계를 위협하게 되는 상황, 그리고 오픈 소스 프로젝트에의 기여가 무의식적으로 “검은 상자 수치 계산 기계”에 연료가 되는 사례를 지적했습니다.

조르지오는 이 시나리오가 개인이 디지털 기여물에 대한 소유권이 부족한 근본적인 문제로 귀결된다고 주장합니다. “당신은 결코 검은 상자 수치 계산 기계에게 먹이를 주고 있다는 사실을 알지 못했습니다”라고 그는 강조했습니다. 현재의 모델은 AI 시스템이 넓은 데이터셋에서 학습하는 것을 허용하며, 여기에는 인간이 생성한 콘텐츠가 많이 포함되어 있으나, 이에 대한 명시적 동의나 원 제작자에게 보상할 수 있는 메커니즘이 없습니다.

Web3: 공정한 보상을 위한 해결책

이점에서 조르지오는 Web3 기술의 큰 잠재력을 봅니다. 그는 Web3의 분산된 특성과 검증 가능한 소유권, 투명한 거래에 중점을 두고 있으며, 이러한 경제 불균형을 시정할 수 있는 가능한 경로를 제안하고 있습니다.

“Web3는 이와 같은 문제를 해결하고 사람들이 공정하게 보상받을 수 있도록 하는 데 큰 잠재력이 있습니다,”라고 조르지오는 확신했습니다. 블록체인과 분산 프로토콜을 활용하여 Web3는 개인이 데이터와 디지털 자산에 대한 소유권과 통제권을 유지하고, 그들의 기여가 AI 시스템의 학습이나 운용에 사용될 때 공정한 보상을 받을 수 있는 시스템을 만들 수 있습니다. 이러한 변화는 사용자, 데이터 및 AI 간의 관계를 새롭게 정의하고, 더욱 공정한 디지털 경제를 촉진할 수 있습니다.

Web3 기술은 이러한 복합적 문제에 대한 유망한 해결책을 제시하지만, 정부 기관이 이러한 분산된 접근 방식을 쉽게 받아들이기란 매우 어려울 것입니다. 대신, 당국은 기존의 규제 프레임워크를 더욱 강화할 가능성이 높으며, 이는 역설적으로 그들이 감독하고 통제하려는 기술 혁신을 억제할 위험이 있습니다.

조르지오는 그동안 AI와 Web3 부문 모두에서 규제 강화가 필요하다고 강력히 주장했습니다. “나는 둘 다 더 많은 규제가 필요하다고 생각합니다,”라고 그가 말하며, 유럽이 “규제 혁신”에 나선 것을 필요하다고 보고 있습니다.

암호화폐 측면에서, 조르지오는 무고한 투자자를 이용한 사기와 프로젝트 종료가 빈번한 문제를 지적했습니다. “많은 사람들이 자신의 조사를 하지 않으며, 사기 방법으로 많은 프로젝트가 종료됩니다,”라고 그는 한탄했습니다. 이를 해결하기 위해, 그는 “KOL [주요 의견 지도자], 프로젝트 및 투자자의 더 큰 책임감”을 보기를 원한다고 표명했습니다. 모든 실패한 프로젝트가 사기는 아니지만, 현재의 환경은 대중을 보호하기 위해 변화가 필요하다고 주장했습니다.

AI와 관련해서, 조르지오는 더 큰 모델의 성장 능력이 증가함에 따라 우려를 표명했습니다. 그는 Anthropic에서의 사례를 인용하며, “큰 모델이 무언가를 꾀할 가능성이 더 크다”고 관찰했습니다. Claude가 폐쇄 위협을 감지하면서 강탈 행동을 한 사례를 언급하며, “이것이 일회성 사건이 아니기 때문에 큰 모델들은 위험하다는 것이 분명합니다,”라고 경고했습니다.

정교한 AI 행동의 즉각적인 위험을 넘어서, 조르지오는 대량 일자리 손실의 위협에 대해 다시 경고했습니다. 그는 “회사가 목적 없이 능력을 ‘맹목적으로 확장’하도록 허용하는 현재의 방향은 ‘미친’ 것”이라고 여겼습니다. 그가 궁극적으로 목표로 하는 것은 “모든 리스크 없이 AI의 모든 이점을 제공하는 소프트웨어”입니다.

AI 에이전트에는 명확한 역할이 필요하며, 단순한 챗봇이 아닙니다

한편, AI 인프라 설계 전문가로서의 경험을 바탕으로 조르지오는 AI 에이전트의 커뮤니케이션 프로토콜의 중요한 측면에 대해 의견을 밝혔으며, 사소한 문제도 혼란으로 이어질 수 있다고 인식했습니다. 비기술적 일반 사용자를 위해 커뮤니케이션을 향상시키기 위한 최선의 접근법을 묻자, 조르지오의 철학은 간단했습니다: 에이전트의 명확하게 정의된 책임.

“적어도 우리에서는 에이전트가 매우 명확하게 정의된 책임을 가져야 한다는 것이 원칙입니다,”라고 조르지오는 설명했습니다. “고객 서비스를 위한 에이전트를 사용하고 있다면, 그 에이전트가 고객 서비스에 정말 능숙하도록 하고 그에 집중해야 합니다.” 과도한 책임을 부여할 때 문제가 발생한다고 강조했습니다.

이러한 집중된 접근 방식은 지정된 역할 내에서 에이전트의 성능을 향상시킬 뿐만 아니라 사용자에게도 유익합니다. “사용자 입장에서는 에이전트가 명확하게 정의되어 있다면, 사용자가 에이전트를 사용할 때 정확히 무엇에 놓여 있는지 알고 있습니다.” 이 전략은 지능 시스템과의 원활한 상호작용을 위해 필요한 예측 가능성과 신뢰를 촉진합니다.

AI가 계속해서 발전하고 일상생활과 산업에 깊이 통합됨에 따라, 이러한 안전성, 예측 가능성, 경제적 공정성, 신중한 규제의 시행 및 명확하고 집중된 책임을 가진 에이전트 설계라는 기본 문제를 해결하는 것은 기술의 윤리적 개발뿐만 아니라 미래에의 지속 가능하고 사회적으로 책임 있는 통합을 위해 필수적일 것입니다.

AI 채택 가속화의 중요한 문제에 관해, 조르지오는 결정적인 전환을 제안했습니다: 단순한 “AI 채팅 상자”의 한계를 넘어, 전반적인 사용자 경험을 근본적으로 개선하는 것입니다. 조르지오는 현재 접근 방식의 단점을 설명하며 다음과 같이 주장했습니다:

“현재로서는 대개 채팅 인터페이스를 통해 수행되고 있으며, 이는 많은 작업에 적합하지만 대부분의 경우 이상적이지 않습니다. 문제는 AI 채팅 상자를 사람들 앞에 두고 ‘이것으로 무슨 일이든 할 수 있습니다’라고 말하면, 사람들은 ‘좋아요, 그런데 뭘 해야 하죠?’라고 반응한다는 것입니다.”

조르지오에 따르면, Coral을 포함한 여러 회사들이 AI 사용자 경험 개선의 도전에 대응하고 있습니다. 그는 AI 개발자/유지보수자 관점에서, Coral이 AI 시스템 상호작용의 다양한 단계에서 사용자에게 필요한 정보와 특정 작업에 가장 효과적인 인터페이스가 무엇인지 결정하기 위해 “추상화의 사다리”를 조사하고 있다고 밝혔습니다.