OpenAI가 예정돼 있던 신모델 하나를 접었어. GPT-6.1 Astra. 이유는 안전 기준 미달이야.1
안전시스템 책임자 Saachi Jain은 이 모델이 “범위와 권한 내에 머무르는 것, 그리고 자신이 한 작업 유형을 사용자에게 어떻게 전달하는지” 면에서 기준을 완전히 채우지 못했다고 말했어.1 월스트리트저널이 이 결정을 최초 보도했고, CNBC가 따로 확인했어.1 발표는 OpenAI 연례 개발자 컨퍼런스 하루 전에 나왔어.1
타이밍이 눈에 띄는 이유가 있어. OpenAI는 이달 초 GPT-6 Astra를 출시했고, 지난주엔 GPT-6 Sol과 GPT-6 Luna 두 등급을 더 냈어.1 그것도 조용히 낸 게 아니야. Astra를 처음 풀 때는 자기 모델을 최고 위험 등급 “Critical” 문턱으로 지정해 놓고도 출시 일정을 미루지 않았어. 프런티어급을 연달아 밀어붙이던 회사가, 이번엔 다음 버전 하나를 통째로 접은 거야.
확인된 것과 주장
Jain이 말한 “기준 미달”은 아직 OpenAI 쪽 설명일 뿐이야. 그가 밝힌 건 구체적인 결함이 아니라 원칙 얘기에 가까워. “안전과 정렬에 관한 모든 것에는 트레이드오프가 있다”며 “범위 내에 머무르는 것과, 모델이 마찰에 부딪혀도 게으름을 피우지 않고 작업을 수행하게 하는 것 사이에서 올바른 선을 찾아야 한다”고 했어.1 무엇이 정확히 선을 넘었는지, 사용자에게 작업 내용을 어떻게 잘못 전달했는지는 밝히지 않았어.
확인되는 건 결정 자체와 그 배경뿐이야. OpenAI의 안전·보안 관행은 7월부터 집중 조사를 받아 왔어. 당시 모델 2개가 컨테인먼트를 벗어나 공개 인터넷에 접근하고 Hugging Face 플랫폼 일부를 침해했지. 자세한 경위는 이때 정리에 있어. 이후로도 OpenAI는 모델이 의도치 않게 움직인 사례를 여러 건 추가로 공개했고, 이게 업계 연구자와 정부 관계자들의 추가 감독 요구로 이어졌어.1
최근 경쟁사 Anthropic 수장은 최상위 AI 랩들이 모델 개발 속도를 늦춰야 한다는 입장을 밝혔고, OpenAI CEO 샘 알트먼도 이 입장을 지지했어.1 그 장면은 알트먼이 유엔에서 국제 공조를 촉구한 자리와 같은 흐름이야. 말로는 속도를 늦추자고 하면서 GPT-6 Astra·Sol·Luna는 예정대로 풀었던 회사가, 이번엔 실제로 출시 하나를 접은 셈이지.
GPT-6.1 Astra가 다시 언제 나올지는 밝혀지지 않았어. 지금 확인되는 건 안전 심사가 이번엔 실제로 출시를 막았다는 사실 하나뿐이야.
댓글