티스토리 뷰
오픈 AI는 최근 블로그를 통해 차세대 프론티어 모델의 훈련을 시작했다고 발표했습니다. 이 모델은 GPT-5로 추정되며, 일반인공지능(AGI)으로 나아가는 중요한 단계로 평가됩니다. 또한, 오픈 AI는 새 모델의 안전성과 보안을 위한 '안전 및 보안 위원회'를 출범시키고 3개월간 활동할 것을 선언했습니다. 이 글에서는 오픈 AI의 새로운 모델과 안전 위원회의 역할, 그리고 향후 전망에 대해 자세히 알아보겠습니다.
GPT-5의 훈련 시작과 출시 전망
오픈 AI는 새로운 블로그 게시물을 통해 차세대 프론티어 모델의 훈련을 시작했다고 발표했습니다. 비록 GPT-5라는 명칭은 사용되지 않았으나, 이는 오픈 AI가 AGI로 나아가는 중요한 단계로 기대되고 있습니다. 지난 3월, 일부 기업에게 GPT-5 테스트 버전을 제공했다는 비즈니스 인사이더의 보도에 따르면, 이미 모델의 사전 훈련은 완료된 것으로 보입니다.
한 CEO는 GPT-5 테스트 버전을 본 후 "정말 좋다"라는 긍정적인 소감을 남겼으며, 이는 모델의 성능에 대한 기대감을 높였습니다. 현재 남은 작업은 레드팀 테스트와 기업 테스트로, 이는 모델의 안전성과 신뢰성을 검증하는 중요한 과정입니다. 이러한 테스트가 성공적으로 완료되면, 오픈 AI는 이르면 8월 말에 GPT-5를 출시할 수 있을 것으로 보입니다.
안전 및 보안 위원회의 역할과 중요성
오픈 AI는 새로운 모델과 미래 기술이 제기하는 위험을 다루기 위해 '안전 및 보안 위원회'를 출범시켰습니다. 이 위원회는 모든 오픈 AI 프로젝트에 대한 중요한 안전 및 보안 결정에 대한 권장 사항을 만드는 일을 담당합니다. 첫 번째 임무는 향후 90일 동안 오픈 AI의 개발 과정과 보호 장치를 평가하고, 부족한 부분에 대해 추가로 개발을 진행하는 것입니다.
위원회는 새로운 모델을 훈련하는 동안 기술을 보호하기 위한 정책과 프로세스를 다듬기 위해 노력할 것이며, 이렇게 만들어진 정책이 이사회 승인을 얻는 프로세스가 될 것입니다. 지난해 12월, 샘 알트먼 CEO 복귀 직후 오픈 AI는 이사회 승인 없이 새 모델을 출시하지 않겠다고 선언한 바 있습니다. 따라서 위원회의 조치 사항이 승인되면, GPT-5를 출시할 수 있게 됩니다.
위원회의 구성과 배경
안전 및 보안 위원회는 대부분 오픈 AI에 호의적인 이사회 멤버와 알트먼 CEO 및 내부 직원으로 구성되었습니다. 위원회 의장은 브렛 테일러 전 세일즈포스 공동 CEO가 맡고 있으며, 애덤 디앤젤로 쿼라 CEO, 니콜 셀리그먼 소니 엔터테인먼트 전 회장, 샘 알트먼 오픈 AI CEO 등 내부 직원 6명이 포함되었습니다. 또한, 외부 전문가와도 접촉 중인 것으로 알려졌습니다.
이번 조치는 최근 모델 안전을 담당하던 초정렬팀의 해체와 스칼렛 요한슨 목소리 도용 문제 등이 잇달아 불거진 가운데 등장했습니다. 일부에서는 오픈 AI가 안전 문제를 중요하게 생각하지 않는다는 지적이 나오고 있는 상황에서, 이번 위원회의 출범은 이러한 비판을 불식시키기 위한 중요한 조치로 볼 수 있습니다.
결론
오픈 AI는 GPT-5 훈련 시작과 함께 안전 및 보안 위원회를 출범시켜, 모델의 안전성과 신뢰성을 높이는 데 주력하고 있습니다. 이러한 노력은 오픈 AI가 AGI로 나아가는 중요한 단계에서 발생할 수 있는 위험을 최소화하고, 더 나은 기술을 개발하기 위한 기반을 마련하는 데 큰 도움이 될 것입니다. 앞으로 GPT-5의 출시와 오픈 AI의 발전이 어떻게 전개될지 기대됩니다.