이더리움 공동 창립자 비탈릭 부테린, “암호학에서 가장 어려운 문제는 여전히 해결되지 않았다”고 밝혀

난독화가 실제로 하는 역할

암호화폐 분야의 대다수 사람들은 전송 중인 데이터를 숨기는 ‘암호화’와 데이터를 공개하지 않고 검증하는 ‘제로 지식 증명’에 익숙합니다. 난독화는 이와는 다른 방식으로 작동합니다. 바로 코드 자체를 숨기는 것입니다.

다음과 같이 생각해 보세요. 암호화는 편지를 봉투 안에 넣는 것과 같습니다. 난독화는 편지를 쓰는 기계를 뒤섞어, 그 기계를 지켜보는 사람조차도 그 작동 방식을 알아낼 수 없게 만듭니다.

비탈릭 부테린이 최근 블로그 게시물에서 설명한 구체적인 방식은 ‘구분 불가능 난독화(indistinguishability obfuscation, iO)’라고 합니다. 쉽게 말해, iO는 두 프로그램이 같은 작업을 수행하지만 내부 논리가 서로 다를 경우, 난독화가 적용되면 두 프로그램을 구별할 수 없음을 의미합니다. 프로그램은 실행되어 실제 결과를 산출하지만, 그 결과가 어떻게 도출되었는지에 대해서는 아무것도 드러내지 않습니다.

블록체인이 이를 필요로 하는 이유

이 분석에서 부테린은 iO를 블록체인의 활용 사례와 직접적으로 연결했습니다. 난독화된 프로그램은 자체 복제를 막을 수 없으므로, 잔액이나 거래 기록과 같은 상태를 유지할 수 없습니다. 이것이 바로 블록체인이 수행하는 역할입니다.

부테린은 이 두 가지를 결합하면 그 결과는 “신뢰가 필요 없는 신뢰할 수 있는 제3자”에 가까운 것이 된다고 썼습니다. 즉, 누구도 시스템을 구축한 사람들을 신뢰할 필요 없이 규칙을 집행하고, 입력을 처리하며, 정직한 출력을 생성하는 시스템입니다.

구체적인 예로, 다중 서명(multisig) 위원회도, 소수 그룹이 운영하는 신뢰 기반 설정도, 그리고 적어도 일부 참가자가 정직할 것이라는 가정도 필요 없는, 안전하고 사적인, 조작에 강한 투표 시스템을 들 수 있습니다.

지금까지의 진전

연구자들은 약 20년 동안 iO의 증명 가능한 보안 버전을 구축하기 위해 노력해 왔습니다. 초기 접근 방식들은 반복적으로 실패했습니다. 부테린은 2001년의 한 주요 연구 결과를 인용하며, 이상적인 난독화 방식이 수학적으로 불가능함을 보여주었습니다. 이후 연구자들은 차선책으로 iO에 주목하기 시작했습니다.

최근 몇 년간 이 분야는 중요한 이정표를 달성했다. 암호학자들은 이제 부테린이 “합리적인 보안 가정”이라고 부른 조건 하에서 iO를 달성하는 구조를 확보했다. 이는 진정한 진전이다.

문제: 우주보다 더 긴 실행 시간

문제는 실행 시간입니다. 현재의 iO 방식은 기술적으로 다항식 시간 내에 처리되므로, 입력 크기에 비례하여 증가할 뿐 기하급수적으로 폭발적으로 늘어나지는 않습니다. 하지만 부테린은 실제 오버헤드를 “은하계급”이라고 묘사했습니다.

이 방식은 여러 계층의 첨단 암호학 도구를 서로 중첩시켜 작동합니다. 각 계층은 그 아래 계층을 감싸는 구조입니다. 그 결과, 단일 입력을 처리하는 데 10의 10제곱 이상으로 추정되는 오버헤드 계수가 필요할 수 있는 시스템이 만들어지며, 보안 요구 사항으로 인해 암호문 크기가 표준 구조보다 수천 배 더 커지게 됩니다. 부테린의 추정에 따르면, 현재 방식에서 예상되는 실행 시간은 우주의 나이를 초과합니다.

앞으로 나아갈 3가지 방향

부테린은 연구자들이 추구하고 있는 세 가지 방향을 다음과 같이 제시했다:

• 2010년 이후 SNARK의 성능이 획기적으로 개선된 것과 유사하게, 더 스마트한 엔지니어링과 AI 지원을 활용해 기존 구조의 ‘타워’를 최적화함으로써 각 병목 현상을 수십 배 이상 줄이는 것.
• 이론적 엄밀성을 일부 희생하고 실용적인 속도를 확보하기 위해, 더 공격적이면서도 단순한 암호학적 가정을 바탕으로 iO를 구축하는 것.
• 오늘날 대부분의 연구를 뒷받침하는 격자 기반 수학을 벗어나, 완전히 새로운 난독화 접근 방식을 발견하는 것.

암호화폐 업계에 미치는 의미

부테린은 이 문제의 중요성을 명확히 설명했습니다. 이 세 가지 경로 중 어느 하나라도 성공한다면, 신뢰할 수 있는 제3자를 통해 설명될 수 있는 모든 프로토콜을 제3자 없이도 구축할 수 있는 형태의 암호학이 탄생하게 될 것입니다. 여기에는 비공개 스마트 계약, 익명 자격 증명 시스템, 민감한 데이터에 대한 암호화 연산, 그리고 내부자에 의해 악용될 수 없는 거버넌스 시스템 등이 포함됩니다.

"두 경로 중 어느 하나에서라도 성공한다면 그 보상은 클 것입니다. 진정한 의미에서 우리는 ‘암호학을 해결’하게 될 것입니다. 즉, 공격자가 시간을 되돌릴 수 있다는 전제 하에, 이상화된 신뢰할 수 있는 제3자를 사용하여 설명할 수 있는 모든 프로토콜을 안전하게 구현할 수 있게 될 것입니다. 하지만 그곳에 도달하는 것은 여전히 막대한 도전 과제입니다,"라고 부테린은 결론지었다. 이 기술은 아직 준비되지 않았습니다. 하지만 부테린이 언급했듯이, 로드맵은 그 어느 때보다 명확해졌습니다.