오픈AI, 'GPT-4o' 출력 16배 확대한 롱 아웃풋 모델 출시 – AI 혁신의 새로운 방향

오픈 AI, 'GPT-4o' 출력 16배 늘린 '롱 아웃풋' 모델 출시

오픈 AI가 새로운 모델 'GPT-4o 롱 아웃풋(Long Output)'을 공개하며 대형언어모델(LLM) 분야에 새로운 바람을 일으키고 있습니다. 이번에 출시된 모델은 쿼리 당 최대 6만 4000개의 출력 토큰을 제공하여 기존 GPT-4o 모델의 출력 한도를 16배 확대했습니다. 이로 인해 챗GPT는 한 번에 약 200페이지 분량의 중편 소설에 해당하는 긴 답변을 제공할 수 있게 되었습니다.

출력 토큰 확장의 의미와 비용

전통적으로 입력 토큰을 늘려 모델의 성능을 높이는 것이 주된 방법이었지만, 오픈 AI는 이번에 출력 토큰을 대폭 늘려 모델의 새로운 가능성을 제시했습니다. 출력 토큰 확장은 주로 코드 편집이나 글쓰기 수정 등에서 세부적이고 대규모의 출력이 필요한 경우에 유용할 수 있습니다. 하지만 출력 토큰의 증가가 모델의 정확도와는 직접적인 연관이 없기 때문에, 그 수요와 활용도가 얼마나 높을지는 아직 불확실합니다.

새 모델 'gpt-4o-64k-putput-alpha'는 입력 100만 토큰 당 6달러, 출력 100만 토큰 당 18달러의 비용이 소요되어 출력 비용이 상대적으로 높습니다. 오픈 AI는 벤처비트와의 인터뷰에서 이번 모델이 사용자 피드백에 기반한 것이라며, 사용자의 요구에 효과적으로 대응하기 위한 새로운 방법을 계속해서 테스트하고 있다고 밝혔습니다.

알파 테스트와 향후 계획

오픈 AI는 이번 롱 아웃풋 모델을 실험 버전으로 일부 사용자에게만 제공하고 있으며, 몇 주 동안 알파 테스트를 진행할 예정입니다. 이 과정에서 확장된 출력이 사용자 요구를 얼마나 효과적으로 충족하는지 데이터를 수집할 계획입니다. 이번 알파 테스트는 더 폭넓은 사용자를 수용하기 위한 시도로 분석되고 있습니다.

현재 가장 최근에 출시된 GPT-4o 미니는 최대 11만 2000 토큰의 입력과 최대 1만 6000 토큰의 출력을 제공하고 있습니다. 타사 모델들이 입력 토큰 수를 12만 8000 토큰으로 확장하는 추세와 달리, 오픈 AI는 출력 토큰에 집중한 이번 시도로 새로운 방향성을 제시하고 있습니다.

이번 GPT-4o 롱 아웃풋 모델이 사용자들에게 어떤 반응을 얻을지, 그리고 실제로 얼마나 유용하게 사용될지 주목됩니다.

 

출처: AI타임스