제3장. 퍼블릭 블록체인의 덫: MEV 샌드위치 공격, 멤풀 누출과 ASX 좌초 분석

이더리움은 왜 월스트리트에 들어오지 못했는가? 다크풀·RFQ 시장 미시구조, AMM 샌드위치 약탈의 수학과 2.5억 달러짜리 호주증권거래소 실패 보고서

핵심 키워드: Dark Pool & RFQ · Best Execution · Mempool Entropy Collapse · MEV Sandwich Attack · Probabilistic Finality · GDPR Art. 17 · ASX CHESS Post-Mortem
"다른 이용자가 어떤 거래를 확정되어 실행되기 전에 알게 되면, 그 거래를 낸 사람에게 바람직하지 않은, 심지어 파멸적인 결과가 생길 수 있다." — 엘리아스 슈트레를레, 레나르트 안테, 「블록체인 거래의 배타적 채굴」, 블록체인 리서치 랩 워킹페이퍼 13호, 2020년 9월 4일

1. 투명성의 역설: 다크풀·RFQ 시장 미시구조와 멤풀 선행매매

2010년대 중반, 비트코인과 이더리움이 촉발한 분산원장 기술(Distributed Ledger Technology, DLT)의 물결이 월스트리트의 문을 두드렸을 때, 수많은 암호화폐 복음주의자들은 "모든 참여자가 모든 거래를 실시간으로 검증하는 완전한 투명성이야말로 금융 부패와 정보 비대칭을 끝낼 궁극의 무기"라고 설파했습니다. 그러나 전통 기관 자본시장의 트레이딩 데스크와 준법감시인(Compliance Officer)들은 이 찬사를 듣는 순간 등줄기에 흐르는 식은땀을 닦아야 했습니다.

이유를 이해하려면 거창한 암호학보다 먼저 자본시장의 가장 기초적인 물리 법칙인 시장 충격 비용(Market Impact Cost)과 슬리피지(Slippage, 주문 시점의 기대 가격과 실제 평균 체결 가격 사이의 괴리)를 살펴보아야 합니다. 캘리포니아 공무원연금(CalPERS) 같은 대형 연기금이나 글로벌 자산운용사 블랙록(BlackRock)이 포트폴리오 조정을 위해 특정 우량주나 국채 4억 달러어치를 매수하려 한다고 가정해 봅시다. 일반 개인 투자자가 스마트폰 앱에서 보듯 모두가 들여다보는 공개 호가창(Lit Order Book)에는 당장 매도 1호가에 20만 달러, 2호가에 30만 달러 정도의 물량만 얇게 깔려 있기 마련입니다. 여기에 4억 달러짜리 단일 시장가 주문(Market Order)을 통째로 던지면 어떤 일이 벌어질까요? 매도 호가창의 물량을 꼭대기 층까지 혼자 싹쓸이하며 가격을 폭등시킬 뿐 아니라, 발자국 소리를 들은 초단타 매매(High-Frequency Trading, HFT) 알고리즘들이 0.001초 만에 기존 매도 물량을 거두어들인 뒤 5% 더 비싼 가격에 호가를 다시 내걸어 버립니다.

바로 이 약탈적 정보 노출을 막기 위해 월스트리트와 런던 시티의 금융기관은 지난 수십 년간 정교한 방어막을 발명해 왔습니다.

  • 다크풀(Dark Pool): 거래가 완전히 체결되기 전까지 매수·매도 호가와 잔량을 외부 화면에 일절 노출하지 않는 기관 전용 비공개 대체거래시스템(Alternative Trading System, ATS)입니다. 거대한 고래 두 마리가 어두운 수면 아래에서 조용히 부딪쳐 기준 가격(예: 공개 시장 최우선 호가의 중간값)으로 물량을 맞바꾸고 나서야 사후 체결 사실만 보고됩니다.
  • 견적요청(Request for Quote, RFQ): 국채·회사채·외환(FX) 도매시장의 표준 거래 프로토콜입니다. 광장에 확성기를 켜는 대신, 운용사가 신뢰하는 지정 유동성 공급 딜러(Dealer) 소수(보통 3~5곳)에게만 1:1 비밀 채널로 "미국채 10년물 1억 달러어치 살 건데 호가 얼마 줄래?"라고 조용히 물어본 뒤 가장 좋은 가격을 제시한 딜러와 즉시 양자 체결합니다.
  • 빙산 주문(Iceberg Order) 및 시간가중평균가격(Time-Weighted Average Price, TWAP) 분할 알고리즘: 전체 4억 달러 중 수면 위 호가창에는 빙산의 일각인 5만 달러씩만 노출하고, 체결될 때마다 조금씩 잔량을 보충하거나 하루 종일 수천 조각으로 잘게 쪼개어 거대 기관의 매매 의도(Order Flow Alpha)를 철저히 은폐합니다.

더욱 중요한 점은 이러한 주문 정보 보호가 단순한 트레이딩 기교가 아니라 엄격한 법률적 의무라는 사실입니다. 유럽연합의 금융상품시장지침(Markets in Financial Instruments Directive II, MiFID II) 제27조는 모든 금융기관에 최선집행의무(Best Execution)를 부과합니다. 고객이나 연기금 가입자의 위탁 자산을 집행할 때 주문 정보가 새어 나가 불리한 슬리피지를 입히지 않도록 최선의 보호 조치를 취해야 할 신인의무(Fiduciary Duty)입니다.

그런데 이더리움 등 퍼블릭 블록체인의 전송 계층인 멤풀(Mempool, 아직 블록에 담기지 않은 미체결 트랜잭션 대기실)은 이 모든 기관 보호 장치를 정면으로 뒤집어엎습니다. 기관이 트랜잭션에 전자서명을 날려 노드에 제출하는 순간, 가십 프로토콜(Gossip Protocol)을 통해 전 세계 수만 대의 검증자·검색자(Searcher) 노드로 주문 종목, 수량, 허용 슬리피지 한도가 평문(Plaintext) 그대로 생중계됩니다. 비유하자면 대형 연기금 운용본부가 뉴욕 타임스스퀘어 대형 전광판에 '우리 정확히 12초 뒤에 Apple 주식 4억 달러어치 시장가로 삽니다! 최대 2% 비싸져도 그냥 살 겁니다!'라고 생중계 광고를 띄운 뒤 주문을 넣는 격입니다. 모니터 너머로 이 광경을 지켜보던 신중한 준법감시 책임자(Chief Compliance Officer)가 식은땀을 흘리며 서버실로 달려가 랜선을 뽑아버리는 것도 무리가 아닙니다.

실제로 퍼블릭 체인 생태계에서는 플래시봇(Flashbots) 등 전문 탐색 봇들이 1밀리초 단위로 멤풀 패킷을 해부하고 있습니다. 대형 매수 주문이 포착되는 즉시 더 높은 가스비나 검증자 급행료(Bribe)를 지불해 기관 주문의 바로 앞과 뒤에 자신들의 주문을 끼워 넣는 샌드위치 공격(Sandwich Attack)이 자동 실행됩니다. 이것이 퍼블릭 블록체인에서 합법이라는 가면 아래 매년 수억 달러씩 추출되는 최대 추출 가치(Maximal Extractable Value, MEV)의 민낯입니다.

투명한 유리 어항 속에 갇힌 고래를 향해 양쪽에서 낚싯대를 든 작은 상어들이 포위하고 있는 추상 스팟 일러스트
[FIG 3.1] 투명한 유리 어항(퍼블릭 멤풀)에 갇힌 거대한 고래(기관의 주문)를 향해, 두 마리의 날카로운 상어(MEV 봇)가 가스비 낚싯줄을 드리우며 앞뒤로 포위해 들어간다.
삽화 구성 및 생성 프롬프트 보기 (Illustration Spec & Prompt) 열기 / 닫기
연출 의도: 퍼블릭 블록체인의 전역 멤풀 브로드캐스트가 대형 기관의 거래 의도를 투명한 유리 어항처럼 노출시키고, 차익거래 봇(MEV Searcher)들이 가스비 우선순위를 통해 앞뒤로 주문을 가두는 샌드위치 공격의 구조를 1970년대 미국 인디 카툰 풍으로 풍자.
Minimalist abstract 1970s American indie editorial cartoon on empty aged warm-gray newsprint paper. In the center, a large gentle geometric whale drawn in simple black ink lines trapped inside a tiny transparent glass cube. Floating right outside the cube on the left and right, two tiny aggressive shark silhouettes with fishing rods casting thin black lines above and below the whale, trapping it in a sandwich formation. Saul Steinberg dry conceptual wit, 75% empty negative space, raw hand-drawn dip-pen black ink lines, coarse off-register gray Zip-A-Tone halftone dot patches, flat 2D lo-fi print aesthetic, no shading gradients, zero text, zero letters, zero numbers. --ar 16:9

2. MEV 샌드위치 공격과 멤풀 정보 엔트로피 붕괴의 수학

월스트리트의 퀀트 트레이더와 시스템 아키텍트들이 왜 퍼블릭 체인의 멤풀 구조를 타협 불가능한 결함으로 규정했는지, 클로드 섀넌(Claude Shannon)의 정보 이론(Information Theory)과 자동화 시장 조성자(Automated Market Maker, AMM) 미시구조 수식으로 정밀하게 해부해 보겠습니다.

수식을 읽기 전에 포커 테이블의 등 뒤 거울 은유를 떠올려 보십시오. 포커판에서 내가 손패(\(X\))를 가슴팍에 바짝 붙이고 가리고 있으면, 맞은편 상대방의 머릿속 궁금증—즉 불확실성인 섀넌 엔트로피 \(H(X)\)—은 최대치를 유지합니다. 그러나 만약 내 등 뒤 벽면에 대형 전면 거울(공개 멤풀 \(\mathcal{M}\))이 걸려 있어서 내 카드 무늬와 숫자가 상대방 눈에 선명히 비친다면 어떨까요? 거울을 본 상대방 입장에서 남는 불확실성인 조건부 엔트로피(Conditional Entropy) \(H(X \mid \mathcal{M})\)은 즉시 0으로 증발하며, 내가 가진 비밀의 100%가 거울을 통해 상대방에게 고스란히 전이됩니다.

H(X | ℳ) ⟶ 0 ⟹ I(X; ℳ) = H(X) - H(X | ℳ) ≈ H(X)

반면 공개 멤풀이 없고 암호화된 봉투만 전달하는 구조에서는

H(X | ℳ_Canton) ≈ H(X) ⟹ I(X; ℳ_Canton) ≈ 0

구체적 수치 대입 (8비트 채권 주문 정보량 계산): 기관 트레이더가

  • ① 매매 대상 국채 16종목 중 하나를 고르고(\(\log_2 16 = 4\text{ bits}\)),
  • ② 매수·매도 방향 2가지 중 하나를 택하며(\(\log_2 2 = 1\text{ bit}\)),
  • ③ 주문 금액 구간 8단계 중 하나를 결정(\(\log_2 8 = 3\text{ bits}\))한다고 가정합시다.

체결 전 시장이 마주한 초기 비밀 엔트로피는 \(H(X) = 4 + 1 + 3 = 8\text{ bits}\)(총 \(2^8 = 256\)가지 경우의 수)입니다. 퍼블릭 체인 멤풀 \(\mathcal{M}\)에 트랜잭션 콜데이터 (Bond#7, Buy, Tier#8)가 평문 전파되는 순간, 모든 공격자에게 남은 불확실성은 \(H(X \mid \mathcal{M}) = 0\text{ bits}\)가 되며 외부로 새어 나간 상호 정보량(Mutual Information)은 \(I(X;\, \mathcal{M}) = 8 - 0 = 8\text{ bits}\), 즉 영업비밀 노출률 100%에 도달합니다.

반면 제3자에게 난수 암호문과 타임스탬프만 보이는 Canton 전송 계층(\(\mathcal{M}_{\mathrm{Canton}}\))에서는 \(H(X \mid \mathcal{M}_{\mathrm{Canton}}) \approx 8\text{ bits}\)가 보존되어 정보 누출량 \(I \approx 0\text{ bits}\)가 달성됩니다.

INVARIANT 3.1 · 퍼블릭 멤풀의 정보 엔트로피 붕괴와 Canton의 정보량 보존 대조

정보 불확실성이 0으로 붕괴된 직후 벌어지는 샌드위치 공격은 콘서트 매표소 앞 새치기 암표상과 구조가 똑같습니다. 매표소 줄에서 내가 "할인석부터 차례로 20만 달러어치 표 주세요"라고 외치는 소리를 들은 암표상이 급행료를 찔러 넣고 내 바로 앞자리에 새치기해(\(T_{\mathrm{front}}\)) 남은 싼 표를 싹쓸이합니다. 내 차례(\(T_{\mathrm{victim}}\))가 되었을 때는 이미 싼 표가 동나서 나는 눈물을 머금고 비싼 일반석 표를 사며 현장 시세를 한층 더 끌어올려 놓습니다. 그러자마자 내 바로 뒷자리에 서 있던 그 암표상이 방금 샀던 표를 비싸진 시세로 매표소 풀에 즉시 되팔아(\(T_{\mathrm{back}}\)) 차익을 챙기고 유유히 사라지는 것입니다.

x · y = k, Δy_out = y - k / (x + Δx_in)

동일 블록 내 3단계 샌드위치 체결(\(T_{\mathrm{front}} \to T_{\mathrm{victim}} \to T_{\mathrm{back}}\))이 완성될 때 공격자의 확정 순추출액은

MEV_sandwich = (P_back(Q_victim) - P_front) · Q_front - ∑ GasCost - Bribe

실전 수치 시뮬레이션 (사례 1 — 연기금 리밸런싱 스왑 약탈 계산): 유동성 풀에 y = 1,000 ETH와 x = 2,000,000 USDC가 예치되어 불변 곱 상수가 \(k = 2 \times 10^9\)(현재 현물가 2,000 USDC/ETH)인 시장을 보겠습니다. 기관 지갑이 200,000 USDC 매수 주문을 제출합니다(정상 체결 시 \(1{,}000 - \dfrac{2 \times 10^9}{2{,}200{,}000} = 90.909\text{ ETH}\) 수령 기대).

  • ① 선행 매수(\(T_{\mathrm{front}}\)): MEV 봇이 앞자리에 끼어들어 먼저 100,000 USDC를 투입합니다. 풀은 2,100,000 USDC가 되고 봇은 \(1{,}000 - \dfrac{2 \times 10^9}{2{,}100{,}000} = \mathbf{47.619\text{ ETH}}\)(평균 매입가 2,100 USDC)를 가져갑니다(풀 잔량: 952.381 ETH / 2,100,000 USDC).
  • ② 희생자 체결(\(T_{\mathrm{victim}}\)): 불리해진 풀에 기관의 200,000 USDC가 집행됩니다. 풀의 USDC가 2,300,000 USDC로 늘어나며 기관이 손에 쥐는 물량은 \(952.381 - \dfrac{2 \times 10^9}{2{,}300{,}000} = \mathbf{82.816\text{ ETH}}\)로 급감합니다 — 정상 체결 대비 무려 8.093 ETH(거래 전 시세 2,000 USDC/ETH 기준 약 16,200달러)를 앉은자리에서 뜯긴 것입니다(풀 잔량: 869.565 ETH / 2,300,000 USDC).
  • ③ 후행 매도(\(T_{\mathrm{back}}\)): 봇이 같은 블록 바로 다음 트랜잭션에서 방금 산 47.619 ETH를 풀에 도로 던집니다. 풀의 ETH가 \(869.565 + 47.619 = 917.184\text{ ETH}\)가 되면서 봇이 회수하는 대금은 \(2{,}300{,}000 - \dfrac{2 \times 10^9}{917.184} = \mathbf{119{,}413\text{ USDC}}\)입니다.
  • ④ 순이익 정산: 회수금 119,413 USDC에서 원금 100,000 USDC와 가스비·검증자 브라이브 413 USDC(예시 수치)를 차감하면, 봇은 가격 변동 위험을 단 1초도 지지 않은 채 밀리초 만에 19,000 USDC의 무위험 순수익을 가져갑니다.

실제로 탈중앙화 거래소에서는 한 기관 지갑이 200만 달러 규모의 스테이블코인을 리밸런싱하다가 슬리피지 한도를 열어둔 탓에 단 한 블록(12초) 만에 수만 달러를 고스란히 헌납한 참사가 반복되어 왔습니다.

THEOREM 3.2 · AMM 불변 곱 풀에서의 MEV 샌드위치 순수 추출액과 단계별 수치 증명

퍼블릭 체인 옹호자들은 샌드위치 공격을 가리켜 '시장을 효율적으로 만드는 무위험 차익거래'라고 부릅니다. 물론이죠 — 골목길에서 지갑을 소매치기하는 것도 '주머니 속 유휴 현금의 유동성 재분배'라고 부른다면 말입니다. 다만 SEC나 유럽 감독당국의 검사관 앞에서는 그 시적인 표현을 쓰지 않는 편이 건강에 좋습니다. 사기적 거래를 금지하는 SEC Rule 10b-5와 MiFID II의 최선집행의무 아래에서 고객의 위탁 자금을 이처럼 노골적인 선행매매(Front-running) 사냥터에 던져 넣는 행위는 곧바로 고객에 대한 신인의무 위반이자 중대한 시장 질서 위반으로 직결되기 때문입니다.

3. 퍼블릭 Web3 백엔드의 한계와 Daml 서브트랜잭션 프라이버시

퍼블릭 블록체인의 결함은 단순히 "스마트 계약 코드를 더 영리하게 짜면 해결되는 문제"가 아닙니다. 플랫폼의 기저 네트워크 계층 자체가 모든 상태 전이의 전역 브로드캐스트와 확률적 블록 합의를 전제로 설계되어 있기 때문입니다. 실물 자본시장 법률, 일반 Web3(TypeScript/EVM) 백엔드, 그리고 Daml/Canton 아키텍처를 3단 교량으로 맞대어 보면 그 구조적 간극이 선명하게 드러납니다.

미국 1934년 증권거래소법(Securities Exchange Act of 1934) 제10조(b) 및 SEC Rule 10b-5 / 유럽 MiFID II 제27조(최선집행의무) — 원리 요약(조문 인용 아님): 증권 매매와 관련해 사기적 수단을 써서는 안 되며, 고객 주문 정보를 이용해 앞질러 매매(Front-running)하거나 고객 주문 정보가 새어 나가도록 방치해 고객에게 가능한 최선의 결과를 확보할 의무를 저버려서는 안 된다.

이더리움 가상머신(Ethereum Virtual Machine, EVM) 기반 탈중앙화 거래소(Decentralized Exchange, DEX)에 기관용 스왑 주문을 제출하는 TypeScript 백엔드와 Canton의 가상 공유 원장(Virtual Global Ledger) 위에서 동작하는 Daml 계약을 비교해 보겠습니다.

퍼블릭 EVM 방식 (공개 멤풀 노출·확률적 리오그·영구 복제) TypeScript
// 1. 퍼블릭 RPC 노드를 통한 기관 스왑 트랜잭션 브로드캐스트
interface InstitutionalSwapOrder {
  tokenIn: string;
  tokenOut: string;
  amountIn: bigint;
  minAmountOut: bigint; // 허용 슬리피지 하한선
}

async function submitPublicSwap(order: InstitutionalSwapOrder): Promise<void> {
  const provider = new ethers.JsonRpcProvider('https://mainnet.infura.io/v3/KEY');
  const wallet = new ethers.Wallet(process.env.PRIVATE_KEY!, provider);

  // 결함 1: 호출 즉시 전 세계 P2P 멤풀에 주문 원문이 평문 브로드캐스트됨!
  // MEV 봇이 50ms 만에 감지하여 앞뒤로 샌드위치 공격(T_front, T_back) 실행.
  const tx = await dexRouter.swapExactTokensForTokens(
    order.amountIn,
    order.minAmountOut,
    [order.tokenIn, order.tokenOut],
    wallet.address,
    Math.floor(Date.now() / 1000) + 60
  );

  // 결함 2: 확률적 완결성(Probabilistic Finality) — 체인 재구성(Reorg) 발생 시
  // 회계 마감 후 확정된 줄 알았던 블록이 뒤집혀 미결제 사고로 전락함!
  await tx.wait(1);

  // 결함 3: 지갑 주소와 체결 내역이 전 세계 수만 대 노드에 영구 복제되어,
  // 유럽 GDPR 제17조 개인정보 삭제 청구 이행이 물리적으로 불가능함.
}
Canton 가상 공유 원장 방식 (공개 멤풀 없는 RFQ 및 서브트랜잭션 프라이버시) Daml
-- 1. 오직 지정된 거래 당사자와 감독관에게만 국소 투영되는 양자 RFQ 거래
template PrivateInstitutionalTrade
  with
    trader    : Party       -- 주문 기관 (NPS / Alice Asset Mgmt)
    broker    : Party       -- 지정 유동성 공급 딜러 (Dealer B)
    auditor   : Party       -- 금융 감독 당국 (선택적 감사 관찰자)
    assetIn   : Text
    amountIn  : Decimal
    assetOut  : Text
    amountOut : Decimal
  where
    -- 불변식 1: 오직 합의 당사자들만 서명자, 감독관만 관찰자!
    signatory trader, broker
    observer  auditor

    -- 불변식 2: 공개 멤풀이 없다! 순서자는 암호화 봉투만 배달함.
    -- 제3자 노드나 MEV 봇에게는 이 계약 데이터가 단 1바이트도 전송되지 않음.
    choice ExecuteTrade : ()
      controller trader
      do
        -- 2단계 커밋(2PC) 결정론적 완결성으로 즉시 정산 후 계약 아카이브
        return ()

사례 2: 확률적 완결성(Probabilistic Finality)과 체인 재구성(Reorg) 재무제표 마감의 악몽

위 TypeScript 코드의 await tx.wait(1) 한 줄에는 금융 회계사들을 공포에 떨게 하는 두 번째 시한폭탄이 숨어 있습니다. 바로 확률적 완결성(Probabilistic Finality)과 체인 재구성(Reorganization, Reorg) 문제입니다. 퍼블릭 블록체인에서는 트랜잭션이 특정 블록에 담겨 화면에 '입금 완료(Confirmed)'가 떴더라도, 전 세계 네트워크 지연이나 검증자 분기(Fork)로 인해 잠시 후 더 긴(혹은 더 무거운 가중치를 가진) 경쟁 체인이 선택되면 방금 확정된 줄 알았던 블록이 고아 블록(Orphan Block)으로 버려지며 거래 내역이 통째로 뒤집힐 수 있습니다.

일반 커피값 결제에서는 "블록 몇 개 더 기다리면 99.99% 안전합니다"라는 답변이 통할지 모릅니다. 그러나 매일 오후 5시 일일 대차대조표(Balance Sheet)를 마감하고 당일 자금 포지션을 중앙은행과 외부 회계감사인에게 보고해야 하는 은행 자금부에서는 이야기가 전혀 다릅니다. 국제결제은행(Bank for International Settlements, BIS) 산하 지급·시장인프라위원회(Committee on Payments and Market Infrastructures, CPMI)와 국제증권관리위원회기구(International Organization of Securities Commissions, IOSCO)가 제정한 금융시장인프라원칙(Principles for Financial Market Infrastructures, PFMI) 원칙 8(결제 완결성, Settlement Finality)의 시각에서, "99.99% 확률로 확정된 결제"는 회계상 "0% 확정(미결제 상태)"일 뿐입니다. 확정된 줄 알고 상대방에게 현금을 내주었는데 30초 뒤 블록 리오그로 입금이 취소된다면 즉시 수천만 달러의 원금 손실이 발생하기 때문입니다.

반면 Canton 프로토콜은 공개 멤풀 자체가 아예 존재하지 않으며, 비잔틴 장애 허용(Byzantine Fault Tolerance, BFT) 기반 순서 지정과 2단계 커밋(Two-Phase Commit, 2PC) 결정론적 완결성(Deterministic Finality)으로 동작합니다. 참여자 노드가 제출한 트랜잭션 트리(Transaction Tree)는 서브트랜잭션 뷰 분해(Sub-transaction View Decomposition) 알고리즘을 거쳐 각 당사자가 알아야 할 권한(Need-to-Know)이 있는 하위 뷰(View)로 쪼개지고, 나머지 분기는 블라인드 머클 트리(Blinded Merkle Tree, BMT) 해시로 가려집니다. 수신자 검증기(Recipients Validator)는 오직 해당 뷰의 인포미(Informee, 즉 signatory ∪ observer) 공개키로만 봉투(Envelope)를 암호화해 전송하며, 순서자(Sequencer)는 안대를 쓴 우체부처럼 겉봉투에 단조 증가 타임스탬프만 찍고, 중재자(Mediator)의 정족수 서명이 떨어지는 그 즉시 리오그 없는 100% 법적·기술적 결제 완결성이 달성됩니다.

좌측에서는 확성기로 외치는 트레이더 옆에서 세 마리 여우가 딥펜을 들고 엿듣고, 우측에서는 안대를 쓴 우체부가 밀봉된 불투명 봉투에 시계 도장만 찍어 열쇠를 쥔 두 당사자에게만 건네는 추상 스팟 일러스트
[FIG 3.2] 좌측의 퍼블릭 멤풀에서는 확성기로 매매 의도를 외치자마자 교활한 여우(MEV 검색자)들이 받아 적지만, 우측의 Canton에서는 공개 멤풀이 없어 눈먼 우체부(순서자)가 봉인된 불투명 봉투에 시간 도장만 찍어 오직 열쇠를 가진 거래 당사자 둘에게만 배달한다.
삽화 구성 및 생성 프롬프트 보기 (Illustration Spec & Prompt) 열기 / 닫기
연출 의도: 좌측에서 거대한 확성기에 대고 매매 주문서를 외치자 주변 여우들이 딥펜을 들고 귀를 기울이는 퍼블릭 멤풀의 코미디와, 우측에서 안대를 쓴 우체부(순서자)가 봉인된 불투명 봉투에 숫자 없는 시계 도장만 찍어 오직 열쇠를 쥔 당사자 두 명에게만 전달하는, 공개 멤풀이 없는 Canton을 한 화면에서 대조.
Sparse 1970s American indie comic spot illustration on aged warm-gray newsprint paper. Split minimal scene: on the left, a naive trader shouts into a giant cone megaphone while three sly cartoon foxes listen intently with dip pens; on the right, a calm blindfolded postman stamps a faceless mechanical clock dial onto a sealed opaque envelope and hands it solely to two geometric figures holding matching keys. Saul Steinberg / Bell Labs manual doodle style, raw black ink lines, coarse off-register gray Zip-A-Tone halftone patches, 75% empty paper negative space, flat 2D lo-fi retro print aesthetic, zero text or letters anywhere in the image. --ar 16:9

만약 네트워크에 연결된 제3자 참여자 노드가 트래픽을 가로채 거래 내용을 훔쳐보려 한다면?

TypeScript / EVM

EVM 노드는 분산 합의에 참여하기 위해 블록 내 모든 트랜잭션의 입력 파라미터와 컨트랙트 상태 전이를 직접 재실행(Re-execution)해야 하므로, 네트워크 상의 모든 노드가 데이터를 평문으로 수신·저장합니다.

Daml / Canton

수신자 검증기가 암호화 대칭키를 거래 당사자(Informee)의 노드에만 배포하므로, 제3자 노드는 패킷 자체를 수신하지 않거나 수신하더라도 복호화가 불가능합니다. 중재자에게 가는 것은 거래 내용이 아니라 루트 해시(Root Hash), 곧 한 거래의 모든 갈래를 접어 만든 맨 위 32바이트 지문입니다. 그 지문이 어긋나면 제3자의 무단 개입은 즉각 암호학적 무결성 불일치로 막힙니다. 나무를 조립하는 법은 제11장, 중재자가 그 지문만 보고 가결하는 절차는 제12장에서 봅니다.

4. GDPR 잊힐 권리 충돌과 호주증권거래소(ASX) CHESS 2.5억 달러 좌초 분석

퍼블릭 블록체인이 제도권 금융의 심장부에 들어오지 못한 세 번째 장벽은 데이터 프라이버시 법률과 삭제할 수 없는 공개 원장의 정면충돌입니다. 바로 유럽연합 일반데이터보호규정(General Data Protection Regulation, GDPR) 제17조가 강제하는 '잊힐 권리(Right to Erasure / Right to be Forgotten)'입니다. 이를 위반한 금융기관에는 최대 2,000만 유로 또는 전 세계 연간 매출액의 4% 중 높은 금액의 징벌적 과징금이 부과됩니다.

사례 3: 프랑크푸르트 프라이빗 뱅킹 고객의 신탁 해지 및 GDPR 제17조 파기 청구

독일 프랑크푸르트의 자산가 한스 씨가 유럽계 은행과 맺었던 프라이빗 뱅킹 가족신탁 계약을 해지하고, 상업 기록 보관 규정과 자금세탁방지(Anti-Money Laundering, AML) 규정이 정한 법정 의무 보관기간(예: 5년~10년)까지 모두 만료된 뒤 은행에 "내 신탁 계좌와 관련된 모든 온체인 거래 식별자 및 개인 관련 기록을 영구 파기하라"고 공식 청구했다고 가정해 봅시다.

만약 은행이 "불변성의 혁신"을 믿고 퍼블릭 블록체인 위에 신탁 원장을 구축했다면 법무팀은 그날로 절망에 빠집니다. 오프체인 고객 데이터베이스를 지우더라도 고객 지갑 주소와 결합 가능한 온체인 트랜잭션 기록은 유럽 개인정보보호이사회(European Data Protection Board, EDPB) 기준상 여전히 가명처리된 개인식별정보(Personally Identifiable Information, PII)에 해당하는데, 전 세계에 흩어진 익명의 퍼블릭 검증인 1만 명에게 일일이 편지를 보내 "실례지만 선생님 하드디스크의 14,203,911번 블록 좀 지워주실 수 있나요?"라고 사정할 도리가 없기 때문입니다.

Canton은 이 법적 딜레마를 활성 계약 세트(Active Contract Set, ACS) 모델과 프루닝(Pruning) 메커니즘으로 깔끔하게 해결합니다. Canton 원장에서 계약은 영구 누적 블록에 남는 대신 살아있는 상태인 ACS에서 관리됩니다. 신탁 계약이 해지(Consuming Archive)되고 법정 보존 연한이 경과하면, 해당 은행의 참여자 노드는 로컬 데이터베이스에서 과거 비활성 계약 페이로드를 물리적으로 영구 삭제(Prune)할 수 있습니다. 그러면서도 현재 살아있는 계약들의 암호학적 상태 약정(ACS Commitment)과 무결성 증명은 수학적으로 훼손 없이 그대로 유지됩니다.

호주증권거래소(ASX) CHESS 2.5억 달러 프로젝트 좌초의 진짜 원인

퍼블릭 블록체인의 덫이 프라이버시와 완결성 부재였다면, 엔터프라이즈 DLT 진영에서도 뼈아픈 아키텍처 참사가 있었습니다. 바로 2022년 11월 전 세계 자본시장 IT 업계를 뒤흔든 호주증권거래소(Australian Securities Exchange, ASX)의 청산결제 전산망 CHESS(Clearing House Electronic Subregister System) 대체 프로젝트 전면 백지화 사태입니다.

ASX는 1994년부터 가동된 노후 청산결제 망 CHESS를 차세대 분산원장으로 교체하기 위해 2017년부터 야심 찬 개발에 착수했습니다. 그러나 수차례 개통이 연기되자 2022년 8월 글로벌 감사·컨설팅 기업 액센츄어(Accenture)에 독립 아키텍처 감사를 의뢰했고, 그해 11월 공개된 액센츄어 감사 보고서는 세 가지 냉혹한 진실을 적시했습니다.

  1. 미완성 코드와 일정 붕괴: 수년간의 개발에도 불구하고 전체 애플리케이션 중 상용 가동이 가능한 수준으로 완료된 부분은 약 63%에 그쳤습니다.
  2. 배치 정산과 실시간 스트리밍의 결합도 폭발(Coupling Explosion): 증권시장의 야간 다자간 배치 차액결제(Batch Netting) 주기와 분산원장의 개별 이벤트 모델이 정면충돌하면서, 수백 가지 예외 비즈니스 규칙이 단일 원장 파이프라인에 뒤엉켜 결합도가 통제 불능 수준으로 치솟았습니다.
  3. 1세대 모놀리식 분산원장의 동시성 병목(Concurrency Bottleneck): 가장 결정적인 패인은 원장의 토폴로지였습니다. 당시 설계는 모든 시장 참여자와 모든 상장 종목의 결제가 단 하나의 거대한 중앙 합의 큐(Single Global Consensus Queue)를 일렬로 통과하는 1세대 모놀리식 구조를 택하고 있었습니다. 특정 대형 브로커의 정산 배치에서 락(Lock) 경합이나 지연이 발생하면, 아무 상관이 없는 다른 증권사들의 결제 트래픽까지 도미노처럼 멈춰 서는 전역 병목이 발생한 것입니다.
거대한 단일 톱니바퀴에 수많은 파이프와 자물쇠가 엉켜 금이 가 있고 옆에서 감사관이 돋보기로 이를 조사하는 추상 스팟 일러스트
[FIG 3.3] 단 하나의 거대한 중앙 블록체인 톱니바퀴에 수천 개의 파이프를 억지로 용접하려다 결합도 폭발(Coupling Explosion)로 기계 전체가 멈춰 서고, 2.5억 호주 달러짜리 상각 조사서가 작성된다.
삽화 구성 및 생성 프롬프트 보기 (Illustration Spec & Prompt) 열기 / 닫기
연출 의도: 1세대 모놀리식 분산원장 구조가 야기한 결합도 폭발과 동시성 병목으로 인해 약 2.5억 호주 달러가 전액 상각된 호주증권거래소(ASX) CHESS 사태를, 수많은 배관과 자물쇠에 짓눌려 멈춰 선 거대 톱니바퀴와 액센츄어 감사관의 실루엣으로 풍자.
Sparse 1970s Bell Labs computer programming manual doodle and vintage American zine spot cartoon on aged warm-gray newsprint. In the center, one single oversized flat-gray machine gear completely jammed and cracked under the weight of dozens of comically tangled black pipes, wires, and padlocks soldered directly onto it. On the side, a tiny minimalist inspector silhouette in a trench coat holding a magnifying glass next to a broken clipboard. Raw hand-drawn dip-pen black ink lines, coarse gray Zip-A-Tone screen tones, 75% empty negative space, naive dry engineering humor, flat 2D illustration, no gradients, zero text or letters anywhere. --ar 16:9

결국 ASX 이사회는 프로젝트를 전격 중단하고 투입 비용인 2억 4,500만~2억 5,500만 호주 달러(AUD 245M~255M) 전액을 회계상 손실로 상각(Write-down) 처리했습니다. 호주 증권투자위원회(Australian Securities and Investments Commission, ASIC)와 호주 중앙은행(Reserve Bank of Australia, RBA)까지 나선 이 사건은 분산원장 공학사에 결정적 분수령을 남겼습니다. 실패의 진짜 범인은 스마트 계약 언어가 아니라 "모든 기관의 트래픽을 단일 합의 파이프라인에 욱여넣은 모놀리식 원장 구조"였던 것입니다.

약 2억 5천만 호주 달러짜리 이 뼈아픈 교훈은 Canton 프로토콜이 택한 설계 방향이 왜 옳았는지를 거꾸로 보여 줍니다. Canton의 설계자들은 ASX 상각보다 몇 해 앞서 이미 단일 거대 원장이라는 전제를 버리고, 트랜잭션을 이해당사자 단위의 서브트랜잭션 뷰로 분해한 뒤 복수의 독립된 다중 동기화기(Multi-Synchronizer) 메쉬 위에서 수평 병렬 처리하는 2세대 아키텍처를 완성했습니다. 은행 A와 B의 채권 거래는 동기화기 1에서, 브로커 C와 D의 레포 정산은 동기화기 2에서 락 경합 없이 완벽한 병렬로 흐르며, 도메인을 넘나드는 결제만 원자적 2단계 커밋으로 맞물리는 구조가 탄생한 것입니다.

이 장에서 남는 것

  1. 다크풀·RFQ 미시구조와 멤풀 엔트로피 붕괴. 기관 자본시장은 시장 충격 비용과 슬리피지를 막고 최선집행의무(MiFID II·Reg NMS)를 준수하기 위해 다크풀과 RFQ를 발전시켰으나, 퍼블릭 블록체인의 평문 멤풀은 조건부 엔트로피를 \(H(X \mid \mathcal{M}) \to 0\)으로 붕괴시켜 기관 주문을 MEV 샌드위치 약탈의 먹잇감으로 전락시킨다.
  2. 확률적 완결성(Reorg)과 재무제표의 불양립성. 체인 재구성으로 확정 블록이 뒤집힐 수 있는 확률적 완결성은 회계 감사 및 CPMI-IOSCO PFMI 원칙 8 관점에서 미결제(0% 확정)와 다름없으며, 오직 Canton의 2단계 커밋 결정론적 완결성만이 대차대조표의 법적 확정을 보장한다.
  3. GDPR 제17조 잊힐 권리와 ACS 프루닝. 전 세계 노드에 거래 식별자를 영구 복제하는 퍼블릭 체인은 개인정보 삭제 청구권과 정면충돌하지만, Canton은 소비된 계약을 로컬 저장소에서 안전하게 제거하는 활성 계약 세트(ACS) 프루닝으로 규제 정합성과 암호학적 무결성을 동시에 달성한다.
  4. ASX CHESS 2.5억 호주 달러 상각과 멀티 동기화기로의 진화. 호주증권거래소 사태의 본질은 단일 전역 합의 큐에 모든 트래픽을 몰아넣은 1세대 모놀리식 원장의 결합도 폭발이었으며, 이 교훈이 서브트랜잭션 뷰 분해와 다중 동기화기 수평 확장 아키텍처를 탄생시켰다.