과학기술정보통신부가 운영하는 ‘AI기본법 지원 데스크’에 이달까지 쌓인 온라인 상담은 461건이야. 그중 212건, 거의 절반이 AI 생성물 표시 의무(투명성 확보 의무) 이행 방법을 묻는 내용이었어.1
AI기본법이 시행된 지 8개월이 지났고 세부 가이드라인도 이미 나왔어. 그런데도 기업 현장에서는 워터마크를 어떻게 붙여야 하는지, 어떤 AI를 ‘고영향 AI’로 봐야 하는지를 두고 혼선이 계속되고 있어.1
워터마크는 붙였는데, 그다음엔 뭘 하지
과기정통부 가이드라인을 보면 AI 사업자는 AI 생성 사실을 표시할 때 가시적 방법과 비가시적 방법 중 하나를 고를 수 있어. 그런데 기계 판독용 메타데이터 같은 비가시적 방법을 택하면, 거기서 끝이 아니야. 문구나 음성으로 “이건 AI가 만들었다”는 걸 최소 한 번은 따로 안내해야 해.1
비가시적 워터마크를 쓰는 이유가 애초에 화면이나 소리를 방해하지 않기 위해서인데, 결국 별도 고지가 또 붙는 셈이지. 법조계 관계자는 이 지점이 법과 가이드라인이 어긋나는 자리라고 짚었어. AI기본법 자체에는 워터마크를 표시할 주체를 ‘AI 사업자’로만 정해놨을 뿐, 방법을 가시적·비가시적으로 나누는 규정은 없거든. 그 구분은 가이드라인에만 있어.1
같은 관계자는 표시 의무를 지금처럼 AI 모델을 가져다 쓰는 사업자가 아니라, 비가시적 워터마크를 기술적으로 심을 수 있는 AI 모델 개발사에 지우는 게 더 효율적이라고 말했어.1 실제로 국회에서는 AI 생성물 표시 의무를 모델 개발사와 이용 사업자의 역할에 따라 나누는 AI기본법 개정안이 소관 위원회에서 심사 중이야.1
‘중대한 영향’이 어디까지인지는 아직 아무도 확정하지 않았다
지원 데스크에서 두 번째로 많은 문의(117건)는 고영향 AI 판단 문의였어.1 AI기본법 제2조는 고영향 AI를 가릴 핵심 요건으로 ‘중대한 영향’을 두는데, 이 범위가 보는 사람마다 다르게 읽힌다는 지적이 이어지고 있어.
한양대 법학전문대학원 선지원 교수는 이 부분이 관점에 따라 판단이 갈릴 여지가 있는 만큼, 고시로 위임할 게 아니라 구속력 있는 법률이나 법규명령 개정으로 수범자의 예측가능성을 높여야 한다고 제언했어.2
그 전에 풀어야 할 문제가 하나 더 있어. 고영향 AI인지 판단하려면 먼저 그 모델이 법상 ‘AI시스템’에 해당하는지부터 따져야 해. AI기본법 제2조는 AI시스템의 요건으로 ‘다양한 수준의 자율성·적응성’ 등을 규정하고 있어. 자율성은 사람 개입 없이 독립적으로 데이터를 학습하고 운영될 수 있는 것을, 적응성은 초기 개발 후에도 기계학습으로 계속 발전할 수 있는 특성을 뜻해.
법무법인태평양 강지원 변호사는 이 자율성·적응성의 범위 자체가 불명확해서 사업자가 자기 시스템이 여기 해당하는지 판단하기 어렵다고 봤어. 가이드라인에 적응성 기준을 더 구체화하고, 지원 데스크에 쌓인 실제 문의 사례를 반영해야 한다는 게 그의 제언이야.3
다음에 볼 것
과기정통부 ‘AI기본법 제도개선 연구반’이 투명성 의무 조항 등 주요 쟁점을 논의 중이고, 지원 데스크에 쌓인 현장 질의와 이 연구반 논의를 토대로 제도 개선 과제를 검토할 방침이야.1 국회에 올라간 표시 의무 개정안이 소관 위원회를 통과하는지, 연구반 논의가 가이드라인 개정으로 이어지는지가 다음 확인 지점이야.
댓글