Dario Amodei

AI 위험을 가장 많이 연구하는 회사를 이끄는 사람이, 정작 AI가 가져올 혜택을 위험보다 훨씬 크게 본다고 말하면 어떨까. Dario Amodei가 그런 사람이야. 그가 CEO를 맡고 있는 Anthropic은 AI 위험을 줄이는 방법을 연구하는 데 많은 자원을 쓴다.¹ 그런데 그 자신은 2024년 에세이에서, 사람들이 AI의 위험을 과소평가하는 만큼이나 AI의 상승 잠재력도 과소평가하고 있다고 말해.¹

Anthropic은 자신을 공익법인(public benefit corporation)으로 소개하며 “변혁적 AI로의 안전한 전환을 보장하는 것”을 사명으로 내건다.² Dario Amodei는 이 회사를 공동 창업했고, 회사의 연구 방향과 전략적 비전을 이끄는 자리에서 신뢰할 수 있고 해석 가능하며 조종 가능한(steerable) AI 시스템을 개발하는 일을 맡고 있어.²

항목	내용
소속	Anthropic CEO·공동 창업자12
맡은 일	회사의 연구 방향과 전략적 비전을 이끎2
Anthropic의 다른 공동 창업자	Daniela Amodei(이사회 의장·President), Tom Brown, Jack Clark, Jared Kaplan, Sam McCandlish, Chris Olah2
대표 에세이	「Machines of Loving Grace」(2024년 10월)1
에세이 주제	강력한 AI가 세상을 어떻게 더 낫게 바꿀 수 있는가1

위험을 연구하면서 혜택을 더 크게 보는 이유

Dario Amodei는 AI 위험에 관해 자주 말하고 글을 쓰는 사람이야. 그래서 사람들이 그를 AI가 대체로 나쁠 것이라 보는 비관론자(“doomer”)로 여기기 쉽다고 그 스스로도 말해.¹ 하지만 그는 그렇게 생각하지 않는다고 분명히 밝혀. 그가 위험에 집중하는 주된 이유는, 위험이야말로 그가 보는 근본적으로 긍정적인 미래로 가는 길을 막는 유일한 장애물이기 때문이야.¹

그가 2024년 10월에 쓴 에세이 「Machines of Loving Grace」는 AI의 위험이 아니라, 강력한 AI가 세상을 어떻게 더 낫게 바꿀 수 있는지를 다뤄.¹ 강력한 AI의 긍정적 응용 목록은 로보틱스·제조업·에너지 등 매우 길지만, 그는 이 에세이에서 인간 삶의 질을 직접 향상시킬 잠재력이 가장 큰 소수 영역에 집중한다고 밝혀.¹ 그가 꼽은 다섯 범주는 생물학과 신체 건강, 신경과학과 정신 건강, 경제 발전과 빈곤, 평화와 거버넌스, 일과 의미야.¹

위험 얘기를 더 많이 해온 네 가지 이유

Amodei와 Anthropic이 AI의 장점보다 위험을 더 많이 이야기해 온 데는 네 가지 이유가 있다고 그는 설명해.¹ 첫째는 레버리지 극대화야 — AI 기술의 기본적 발전과 이득 상당 부분은 시장의 힘에 의해 어차피 일어나지만, 위험은 미리 정해져 있지 않고 우리 행동이 그 가능성을 크게 바꿀 수 있다고 그는 봐.¹ 둘째는 선전으로 비치는 것을 피하려는 것이고, 셋째는 과대망상을 피하려는 것이야. 그는 많은 AI 위험론자나 AI 기업 리더들이 AGI 이후 세계를 마치 예언자가 구원으로 이끄는 것처럼 이야기하는 방식에 거부감을 느낀다고 말해.¹ 넷째는 “SF적” 수사를 피하려는 것이야.¹

그렇다고 두려움만으로 충분하다고 보는 것도 아니야. 그는 사람들을 결집시킬 긍정적인 미래상도 필요하다고 말해 — “두려움도 하나의 동기지만, 그것만으로는 충분하지 않다”는 거지.¹

왜 중요한가

Dario Amodei가 이끄는 연구 방향과 전략적 비전은 Anthropic 전체의 공개 커뮤니케이션 톤을 정하는 자리에 있어.² 그가 CEO로서 위험과 혜택을 함께 이야기하는 방식을 스스로 설명한다는 것은, 회사가 “공익법인으로서 변혁적 AI로의 안전한 전환을 보장한다”는 사명을² 어떤 어조로 대중에게 전달할지가 이 사람의 개인적 태도와 맞닿아 있다는 뜻이야. Anthropic의 리더십은 그 혼자가 아니라 Daniela Amodei를 비롯한 다른 다섯 공동 창업자, 그리고 정책·법무·엔지니어링·재무·커머셜·제품을 각각 맡는 여덟 명의 경영진으로 나뉘어 있어.² 그 안에서 Dario Amodei의 자리는 연구와 전략의 방향을 정하는 자리야.²

이 대상을 볼 때의 핵심 축

공개 발언에서 위험과 혜택 중 어느 쪽을 더 많이 이야기하는지 보면 — 그가 2024년에 밝힌 균형(“위험에 집중하되 혜택도 못지않게 크게 본다”)이 그대로 유지되는지가 판별돼. 그는 이 균형을 유지하는 이유로 레버리지·선전 회피·과대망상 회피·SF적 수사 회피를 들었어.¹

Anthropic이 실제로 내놓는 제품·정책이 “신뢰할 수 있고 해석 가능하며 조종 가능한 AI”라는 그의 연구 방향과 얼마나 맞아떨어지는지 보면 — 그의 전략적 비전이 선언에 머무는지 회사 행보로 옮겨지는지가 판별돼.²

헷갈리지 말아야 할 점

Dario Amodei가 AI 위험을 자주 이야기하니 그를 AI가 대체로 나쁠 것이라 보는 비관론자로 생각하기 쉽지만, 이건 그 자신이 직접 부정하는 통념이야.¹ 그는 자신이 위험에 집중하는 이유가 위험을 두려워해서가 아니라, 위험이야말로 그가 믿는 근본적으로 긍정적인 미래로 가는 길을 막는 유일한 장애물이기 때문이라고 설명해.¹ 맞는 그림은 그가 위험과 혜택 둘 다를, 사람들이 똑같이 과소평가하고 있다고 보는 쪽에 가까워.¹

이어서 읽기

Dario Amodei가 CEO를 맡고 있는 회사의 사업 구조와 최근 투자 라운드가 궁금하면 Anthropic을 읽어봐.

남은 질문들

• Dario Amodei의 Anthropic 이전 경력과 학력은 공식 자료로 확인할 수 있나?
• 「Machines of Loving Grace」가 제시한 다섯 영역의 구체적 전망은 무엇이었나?
• 2024년 에세이 이후 그의 공개 발언에서 위험과 혜택의 비중은 어떻게 달라졌나?

각주

1. Dario Amodei, 「Machines of Loving Grace: How AI Could Transform the World for the Better」(2024-10) 에세이 ↩︎ ↩︎² ↩︎³ ↩︎⁴ ↩︎⁵ ↩︎⁶ ↩︎⁷ ↩︎⁸ ↩︎⁹ ↩︎¹⁰ ↩︎¹¹ ↩︎¹² ↩︎¹³ ↩︎¹⁴ ↩︎¹⁵ ↩︎¹⁶ ↩︎¹⁷ ↩︎¹⁸ ↩︎¹⁹

2. Anthropic, 「Leadership at Anthropic」(2026년 9월 20일 확인) 공식 페이지 ↩︎ ↩︎² ↩︎³ ↩︎⁴ ↩︎⁵ ↩︎⁶ ↩︎⁷ ↩︎⁸ ↩︎⁹ ↩︎¹⁰