Amodei가 접근권을 던지자 평가자 100여 명이 조건부터 걸었다

Anthropic CEO Dario Amodei가 지난 주말 아이디어 하나를 던졌어. 외부 평가자 일부에게 “직원과 유사한 접근권”을 줘서 첨단 AI 모델과 그 개발 과정을 직접 감사하게 하자는 거야.

반응은 빨랐어. OpenAI CEO Sam Altman, 스페이스X의 Elon Musk, Microsoft CEO Satya Nadella가 모두 공개 지지했어. 그런데 정작 그 접근권을 받게 될 평가자들 100여 명이 금요일에 공동 서한을 냈어. 내용을 보면 “환영한다”보다 “조건이 있다”는 쪽에 가까워.

무슨 일인가

서한을 조직한 건 AI Evaluator Forum이라는 컨소시엄이고, 의장 Conrad Stosz는 이렇게 말했어.

“We’re just trying to really demonstrate a shared common ground on basic principles and ensure that independent oversight can be a meaningful tool for managing AI risk broadly.”¹

서명자 명단에는 Anthropic·OpenAI 밖에서 온 이름들이 있어. Geoffrey Hinton, Johns Hopkins University·Stanford University 소속 연구자, 그리고 비영리 평가기관 METR.¹

이들이 서한에서 요구하는 건 접근권 자체가 아니라 접근권에 딸린 조건이야. 제목부터 “Minimum Conditions for Embedding Evaluators”(평가자를 embed할 때의 최소 조건)야.¹

Amodei가 던진 것과 서한이 요구하는 것 사이

Amodei의 제안이 정확히 뭘 뜻하는지는 아직 공식 문서로 나오지 않았어. Stosz가 인터뷰에서 추측한 그림은 이래.

“Such a scenario could involve foundation model makers giving third-party evaluators access to company computers, allowing them to talk to employees candidly and letting them see sensitive internal data and unreleased systems.”²

그리고 이 접근권이 왜 필요한지 보여주는 구체적 사례도 하나 들었어 — Hugging Face 공격에 쓰인 미공개 OpenAI 모델.² 공개되지 않은 모델이 실제 공격에 쓰였는데, 그 모델을 외부에서 들여다볼 방법이 없었다는 뜻이야.

접근권 얘기는 여기까지가 확인된 전부야. Altman·Musk·Nadella는 지지 의사를 밝혔지만, 어떤 평가자를 고를지, 얼마나 깊이 들여다보게 할지 같은 실무 조건은 아직 아무도 답하지 않았어.³

서한이 파고드는 지점이 바로 여기야. 접근권만 늘어나고 독립성이 없으면, 평가자가 회사 편에 서는 “장식용 감사”가 될 수 있다는 우려지. 서한이 못박은 최소 조건 중 핵심은 두 가지야.⁴

첫째, 평가기관은 평가 대상 기업에 소유되거나 지배되지 않아야 하고, 결과에 따라 보상을 받아서도 안 돼.⁴ 평가자가 월급을 주는 회사의 성적표를 받아 쓰는 구조라면, 그 평가는 처음부터 믿기 어렵다는 얘기지.

둘째, 서한은 평가기관이 기업 이사회·감독기구와 직접, 걸러지지 않은 소통을 할 수 있어야 하고, 지식재산·고객정보·개인정보·안전 보호에 한정된 시한부 편집 절차 외에는 결과를 공개할 수 있어야 한다고 요구했어.⁵

왜 지금 이 얘기가 나오나

국가안보국(NSA) 전 최고AI책임자였고 지금은 미국외교협회(CFR) 선임연구원인 Vinh Nguyen도 이 서한에 서명했어. 그가 남긴 말은 이 논쟁의 핵심을 찌른다.

“When a few powerful labs control capabilities that can endanger the cybersecurity, critical infrastructure, and the systems our national security and economy run on, the government and the public cannot be dependent on those labs’ own account of what’s secure and safe.”⁶

정부 규제로 이 문제를 풀자는 목소리도 있지만, 트럼프 대통령과 전 AI 차르 David Sacks는 그런 규제 시도에 계속 반대해왔어.⁷ 그러니 지금 움직이는 통로는 정부 규제가 아니라 기업이 자발적으로 받아들이는 “embedded evaluator” 방식이고, 그 방식의 신뢰도가 곧 이 최소 조건을 실제로 지키느냐에 달려 있는 셈이야.

실제로 이런 조건을 담은 AEF-1이라는 표준은 이미 일부 초기 도입 사례를 갖고 있어.⁸

다음에 볼 것

지금 공은 Anthropic·OpenAI 같은 기업 쪽에 있어. Amodei의 제안이 실제 계약이나 정책으로 구체화되는지, 그때 서한이 요구한 조건(소유 독립성·투명한 공개)이 얼마나 반영되는지가 이 논쟁의 다음 분기점이야. 서한 자체는 기업이 이를 무시할 가능성도 인정하지만, 그 경우 신뢰도를 잃는 쪽은 기업이라고 봤어.⁹

각주

1. CNBC, 「Anthropic and OpenAI need truly independent safety evaluators, experts say in public letter」(2026-09-18) 기사 ↩︎ ↩︎² ↩︎³

2. CNBC, 위 기사, Conrad Stosz 인터뷰 인용. ↩︎ ↩︎²

3. CNBC, 위 기사. ↩︎

4. CNBC, 위 기사, 공개서한 “Minimum Conditions for Embedding Evaluators” 인용. ↩︎ ↩︎²

5. CNBC, 위 기사, 공개서한 투명성 조건 인용. ↩︎

6. CNBC, 위 기사, Vinh Nguyen 성명 인용. ↩︎

7. CNBC, 위 기사. ↩︎

8. CNBC, 위 기사, AEF-1 표준 언급 부분 인용. ↩︎

9. CNBC, 위 기사. ↩︎