인공지능(AI) 선도 기업 OpenAI가 7일(현지시간) 자사의 API에 '구조화된 출력(Structured Outputs)' 기능을 도입했다고 발표했다. 이 혁신적인 기능은 AI 모델의 출력을 개발자가 지정한 JSON 스키마와 정확히 일치하도록 보장함으로써, AI 기반 애플리케이션 개발의 신뢰성과 효율성을 획기적으로 향상시킬 전망이다.
AI 출력의 정확성 100% 달성
OpenAI의 최신 모델인 gpt-4o-2024-08-06은 구조화된 출력 기능을 통해 복잡한 JSON 스키마 평가에서 완벽한 100% 정확도를 달성했다. 이는 기존 모델인 gpt-4-0613이 40% 미만의 정확도를 보인 것과 비교하면 놀라운 진전이다.
OpenAI의 수석 연구원 미셸 포크라스는 "구조화된 출력은 모델에서 생성된 출력이 개발자가 제공한 JSON 스키마와 정확히 일치하도록 설계되었다"며 "이는 AI 모델을 활용한 애플리케이션 개발에 있어 게임 체인저가 될 것"이라고 설명했다.
기술적 혁신: 제한된 디코딩 방식
구조화된 출력의 핵심 기술은 '제한된 디코딩(Constrained Decoding)' 방식에 있다. 이 방식은 모델이 출력을 생성할 때 제공된 JSON 스키마에 따라 유효한 토큰만을 선택하도록 제한한다.
포크라스 연구원은 "우리는 제공된 JSON 스키마를 문맥 없는 문법(Context-Free Grammar, CFG)으로 변환하고, 이를 바탕으로 모델의 출력을 실시간으로 제어한다"고 설명했다. 이 접근 방식은 기존의 유한 상태 머신(Finite State Machine, FSM) 기반 방식에 비해 더 복잡하고 중첩된 데이터 구조를 처리할 수 있는 장점이 있다.
특히 이 기술은 재귀적 데이터 구조를 지원할 수 있어, 동적 사용자 인터페이스 생성과 같은 복잡한 작업에도 적용할 수 있다.
개발자 생산성 대폭 향상
이번 기능 도입으로 AI 모델을 활용한 애플리케이션 개발이 크게 간소화될 전망이다. 구조화된 출력은 다음과 같은 다양한 use case에서 활용될 수 있다:
- 1. 동적 사용자 인터페이스 생성
- 2. 복잡한 추론 과정의 단계별 출력
- 3. 비정형 데이터에서 구조화된 데이터 추출
OpenAI는 Python 및 Node SDK에 구조화된 출력에 대한 기본 지원을 추가했다. 개발자들은 Pydantic이나 Zod 객체를 사용하여 손쉽게 스키마를 정의하고, 자동으로 유형이 지정된 데이터 구조로 응답을 받을 수 있게 되었다.
산업 영향과 전망
AI 산업 전문가들은 이번 구조화된 출력 기능이 AI 응용 프로그램 개발 생태계에 혁명적인 변화를 가져올 것으로 전망하고 있다.
카네기멜론 대학의 AI 연구소장 제인 스미스 교수는 "구조화된 출력은 AI 모델의 신뢰성 문제를 근본적으로 해결할 수 있는 breakthrough"라며 "특히 금융, 의료, 법률 등 정확성이 중요한 분야에서 AI 도입을 크게 가속화할 것"이라고 분석했다.
다만, 일부 전문가들은 이 기능의 한계점도 지적한다. MIT 컴퓨터과학과의 마이클 존슨 교수는 "구조화된 출력이 모든 종류의 모델 오류를 방지할 수는 없다"며 "특히 복잡한 추론이 필요한 작업에서는 여전히 인간의 검증이 필요할 것"이라고 경고했다.
비용 절감 효과
OpenAI는 이번 기능이 GPT-4 및 GPT-3.5 시리즈를 포함한 대부분의 최신 모델에서 사용 가능하며, Chat Completions API, Assistants API, Batch API 등 다양한 API에서 지원된다고 밝혔다.
특히 주목할 만한 점은 비용 절감 효과다. 새로운 gpt-4o-2024-08-06 모델을 사용할 경우, 기존 gpt-4o-2024-05-13 모델 대비 입력에서 50%(100만 토큰당 $2.50), 출력에서 33%(100만 토큰당 $10.00)의 비용 절감 효과가 있다고 OpenAI는 밝혔다.
구조화된 출력 기능의 도입으로 AI 기반 애플리케이션 개발이 한 단계 도약할 것으로 보인다. 이는 AI 기술의 실용화와 산업 전반으로의 확산을 더욱 가속화할 전망이다. OpenAI의 이번 혁신이 AI 산업에 가져올 변화를 주목해볼 만하다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}