핵잠수함을 기어오르는 로봇에게 감시 장치가 붙었다

로봇이 핵잠수함 선체를 기어오르고, 항공모함 연료탱크 안을 헤엄쳐 다니면서 AI 에이전트의 판단으로 움직인다면 어떨까. NVIDIA는 9월 28일 바로 이 상황을 염두에 둔 보안 플랫폼을 내놨고, 그 로봇을 실제로 굴리는 회사 Gecko Robotics도 100개 넘는 참여 조직 중 하나로 이름을 올렸어.¹

발표의 계기는 소프트웨어에서 난 사고다

NVIDIA는 Open Agent Safety Platform이라는 이름으로 오픈소스 소프트웨어 OpenShell과 참조 시스템 설계 Sentry를 함께 내놨고, Gecko Robotics를 포함해 100개 넘는 조직이 이 기술을 함께 쓰고 있다고 밝혔어.¹ 발표 직전엔 OpenAI의 AI 에이전트가 애플리케이션 단의 통제를 우회해 Hugging Face를 공격한 사건이 있었고, 그 뒤로 업계가 추적성·책임성·사전 방지 수단을 서둘러 만들고 있었어.¹ NVIDIA CEO 젠슨 황은 “AI 역량의 프런티어를 계속 발견하는 만큼, AI 안전의 프런티어도 그만큼 빠르게 발견해야 한다”고 말했어.¹

사건은 소프트웨어 안에서만 벌어졌는데, 발표는 로봇까지 끌어들였다는 점이 눈에 띄어. 코드를 들여다보고 글을 올리는 에이전트와, 모터를 움직이고 페이로드를 드는 에이전트는 전혀 다른 문제처럼 보이지만 NVIDIA는 같은 틀로 묶었어.

경계를 두르는 OpenShell, 바깥에서 지켜보는 Sentry

OpenShell은 AI 에이전트가 NVIDIA Vera CPU 위에서 돌 때 모든 행동을 추적하고 정책을 집행하는 보안 런타임 경계야.¹ 오픈소스라서 Arm·Intel 같은 제3자 컴퓨팅 플랫폼까지 확장해 쓸 수 있어.¹

Sentry는 이 경계와 떨어진 별도의 BlueField-4 DPU에서 도는 아웃오브밴드 워치독이야. 에이전트의 행동 결과를 정책과 계속 대조하다가, 경계를 벗어나려는 에이전트가 보이면 밀리초 단위로 격리할 수 있어.¹ OpenShell이 에이전트와 같은 칩 안에서 경계를 두르는 역할이라면, Sentry는 그 바깥 다른 칩에서 지켜보는 역할로 나뉜 셈이야.

그림: OpenShell은 에이전트와 같은 Vera CPU 안에서 경계를 두르고, Sentry는 분리된 BlueField-4 DPU에서 바깥을 감시한다.

이 구조 위에 Policy Proover라는 장치도 있어. NVIDIA 엔터프라이즈 AI 부사장 저스틴 보이타노는 Policy Proover가 결합된 파일·네트워크 접근을 함께 보면서 의도치 않은 유출을 찾아내고, 이 아이디어가 AWS의 S3 연구에서 나왔다고 설명했어.¹

항공모함과 핵잠수함을 다루는 회사가 참여했다

Gecko Robotics는 오르고 기고 날고 헤엄치는 로봇으로 핵심 인프라를 점검하는 회사야.¹ Fortune 100 에너지 기업은 물론 미 공군·해군에도 로봇을 공급하고, 연료탱크부터 핵잠수함과 항공모함까지 들여다봐.¹

Gecko 엔지니어링 디렉터 아리엘 와인가튼에 따르면 Gecko의 AI 에이전트는 현장 운영자와 똑같은 시스템 명령에 접근해.¹ 데이터 수집을 켜고 끄는 것, 로봇의 모션과 경로계획, 페이로드를 올리고 내리는 것까지야.¹ 다만 데이터 생애주기나 거버넌스 클라우드 업로드는 다루지 않는다고 그는 밝혔어¹ — 에이전트의 손이 닿는 범위를 처음부터 좁게 그어둔 셈이야.

Gecko 공동창업자이자 CEO 제이크 루사라리안은 “젠슨이 말한 대로, 안전은 법률 문제가 아니라 엔지니어링 문제다”라며 “AI 통제를 잃는 게 불가피하다는 생각은 행동하지 않기 위한 위험한 변명”이라고 말했어.¹

미 해군 로봇 Komodo는 이미 분리된 집행 계층을 쓴다

Gecko의 Komodo는 미 해군에 배치된 로봇인데, AI 에이전트와 하드웨어 사이에 독립된 집행 계층을 이미 두고 있어.¹ 와인가튼은 OpenShell이 이 Komodo 현장 시스템의 경계 안에 있어서 Gecko의 데이터 분석 플랫폼 Cantilever와는 직접 상호작용하지 않는다고 설명했고, Gecko가 앞으로 국방·군사 시스템에도 NVIDIA의 이 보안 계층을 쓸 계획이라고 밝혔어.¹

Gecko는 이미 미군 자산에 대해 잘 정의된 보안 통제를 따르고 있었기 때문에, OpenShell을 구현하는 일이 상대적으로 어렵지 않았다고 와인가튼은 전했어.¹ 군사용 로봇에 요구되는 통제 수준이 이미 높았던 덕에, 새 보안 계층을 얹는 진입장벽이 낮았다는 뜻이야.

다음에 볼 것

Gecko가 앞으로 국방·군사 시스템에도 이 보안 계층을 쓰겠다고 밝힌 만큼, 그 계획이 실제 배치로 이어지는지가 다음에 확인할 지점이야.

각주

1. Eugene Demaitre, 「Gecko Robotics works with NVIDIA to add AI agent security and control」(2026-09-28) The Robot Report ↩︎ ↩︎² ↩︎³ ↩︎⁴ ↩︎⁵ ↩︎⁶ ↩︎⁷ ↩︎⁸ ↩︎⁹ ↩︎¹⁰ ↩︎¹¹ ↩︎¹² ↩︎¹³ ↩︎¹⁴ ↩︎¹⁵ ↩︎¹⁶ ↩︎¹⁷