챗GPT 같은 모델한테 “이 댓글이 악성 댓글이야?”처럼 정해진 기준으로 판단만 맡기면, 가끔 정해진 양식을 벗어난 엉뚱한 답변이나 컴퓨터가 못 읽는 오류가 튀어나와. 고객 상담 분류나 자동화 시스템의 갈림길처럼 이런 판단이 초당 수천 번씩 필요한 현장에서는 그 “가끔”이 전부 장애 신호야.
오픈AI 출신 디오고 알메이다 등이 설립한 타입세이프 AI는 4천만 달러(약 540억원) 규모의 투자를 유치하며 판단 전용 모델 제브(Jev)를 선보였어.
챗GPT가 아니라, 질문지 채점기
제브는 글을 쓰거나 코드를 길게 짜는 대형언어모델(LLM)이 아니야. 문맥을 장황하게 설명하지 못하고, 복잡한 사칙연산이나 날짜 계산도 못해.
대신 “이 게시물이 악성 댓글인가?”, “이 고객의 질문을 회계팀과 기술지원팀 중 어디로 보낼까?”, “규정에 얼마나 부합하는가?”처럼 명확한 기준에 따른 판단과 분류만 전문으로 해. 정해진 선택지나 0과 1 사이의 값 외에는 텍스트를 아예 생성하지 못하도록 설계됐어. 그래서 개발자들이 제일 반기는 대목이 “서식 오류가 구조적으로 안 난다”는 거야. 기존 챗GPT 같은 모델은 정해진 양식을 벗어나거나 컴퓨터가 못 읽는 응답을 내보내 개발자를 곤욕스럽게 할 때가 많았거든.
속도와 가격이 다른 급이다
제브는 질문을 받으면 0.1초 안팎에 판단을 끝내. 입력 100만 토큰당 가격은 0.042달러, 우리 돈으로 56원쯤이야. 기존 거대 모델보다 수십에서 수백 배 싸고, 결과물에 대한 출력 비용은 아예 안 받아.
업계는 “분업”이라고 부른다
이건 제브 혼자만의 얘기는 아니야. 업계 관계자는 “복잡한 보고서 작성은 챗GPT나 클로드 같은 똑똑한 모델에 맡기더라도 초당 수천 번씩 일어나는 단순 교통정리는 제브처럼 가볍고 빠른 모델에 맡기는 분업화가 시작됐다”라고 분석했어1. 이 분업론은 어디까지나 업계 관계자의 해석이고, 타입세이프 AI가 공식으로 밝힌 전략은 아니야. AI가 글을 쓰고 상상하는 역할을 넘어, 기업 소프트웨어 안에서 빠르고 정확하게 결정만 내리는 부품으로도 쓰이기 시작했다는 쪽을 읽는 사람들이 있다는 뜻이지.
댓글