오픈AI, FDE 전담 구축 방식의 '프레즌스' 발표..."기업 맞춤형 AI 운영 체계"

오픈AI가 기업들이 실시간 음성 에이전트와 챗봇을 안정적으로 운영할 수 있도록 지원하는 새로운 엔터프라이즈 플랫폼 '프레즌스(Presence)'를 공개했다. 단순히 AI 모델을 제공하는 수준을 넘어 정책 관리, 권한 제어, 성능 평가, 지속적인 개선 기능까지 통합한 플랫폼으로, 기업용 AI 에이전트의 상용화를 위한 운영 체계를 제공하는 것이 핵심이다. 오픈AI는 22일(현지시간) 프레즌스를 제한적 일반 공급(Limited GA) 형태로 출시한다고 발표했다. 일반 고객이 직접 사용할 수 있는 서비스가 아니라, 오픈AI의 전반 배치 엔지니어(FDE)와 글로벌 시스템 통합(SI) 파트너가 기업과 함께 구축하는 방식으로 제공된다. 고객 응대와 내부 업무에서 AI 에이전트가 질문에 답하고, 기업 내부 시스템에 접근하며, 승인된 작업을 수행한 뒤 필요하면 사람에게 업무를 넘기는 전 과정을 관리한다. 모든 동작은 기업이 직접 설정한 정책과 권한, 평가 기준, 가드레일에 따라 통제된다. 오픈AI는 기업들이 AI 시범사업(PoC)을 넘어 실제 운영 환경으로 확장하는 과정에서 가장 큰 문제는 'AI의 신뢰성'이라고 설명했다. 제품과 정책, 고객 요구가 계속 바뀌는 상황에서도 AI가 일관되게 동작하도록 관리하는 것이 중요하며, 프레즌스는 이러한 문제를 해결하기 위해 개발됐다고 밝혔다. 플랫폼은 기업 지식과 표준 운영 절차(SOP), 권한 관리, 승인 가능한 작업, 시뮬레이션, 성능 평가 도구를 하나의 환경으로 통합했다. 각 에이전트는 청구 업무, 보험금 처리, IT 지원 등 특정 업무만 수행하도록 필요한 정보와 시스템 접근 권한만 부여받으며, 어떤 작업을 독자적으로 수행하고 어떤 경우 사람의 승인을 받아야 하는지도 기업이 직접 설정할 수 있다. 출시 전에는 다양한 시뮬레이션을 통해 일반적인 요청은 물론 예외 상황과 위험 시나리오까지 테스트한다. 평가 시스템은 에이전트가 목표를 달성했는지, 정책을 준수했는지, 적절한 도구를 사용했는지, 사람에게 적절한 시점에 업무를 넘겼는지 등을 자동으로 검증한다. 운영 이후에도 지속적인 개선 기능이 제공된다. 운영 과정에서 발생하는 상담 기록과 성능 지표, 사람에게 이관된 사례 등을 분석해 문제점을 찾고, 오픈AI의 '코덱스'가 개선안을 제안한다. 기업은 새로운 버전을 기존 운영 버전과 비교 검증한 뒤 승인 여부를 결정할 수 있어, AI가 스스로 무분별하게 변경되는 것을 막으면서도 지속적으로 성능을 향상할 수 있다. 오픈AI는 이 같은 '코덱스 피드백 루프'가 기업용 AI 운영에서 가장 어려운 문제 가운데 하나인 장기적인 품질 유지 문제를 해결하는 핵심 기능이라고 설명했다. 실시간 음성과 채팅 서비스를 지원한다. 오픈AI는 자체 영어 전화 상담 서비스 '1-888-GPT-0090'에도 이미 적용했으며, 고객 인증과 계정 조회, 승인된 업무 수행 등을 자동으로 처리해 전체 문의의 75%를 사람 개입 없이 해결하고 있다고 밝혔다. 또 코덱스 기반 개선 시스템을 적용한 이후 불과 10일 만에 상담원 이관 비율을 15%포인트 줄였다고 소개했다. 여러 글로벌 기업도 도입을 검토 중이다. 스페인 BBVA는 멕시코 금융 상담용 음성 에이전트를 시험하고 있으며, 소프트뱅크는 일본어 고객 상담 서비스에 적용 가능성을 검토하고 있다. 호주 보험사 IAG는 자연재해 등 상담이 폭증하는 상황에서 AI 상담원을 활용하는 방안을 테스트하고 있다. 이는 오픈AI의 기업 전략 변화도 보여준다. 지금까지 API 중심의 AI 모델 제공에 집중했다면, 앞으로는 FDE를 직접 투입해 기업 환경에 맞는 AI 에이전트를 구축하고 운영까지 지원하는 서비스 모델을 본격화한다는 전략이다. 이는 데이터 통합과 현장 구축을 강점으로 하는 팔란티어의 FDE 방식과 유사하지만, 오픈AI는 정책 관리와 평가, 승인 절차, 지속적인 개선 기능을 하나의 플랫폼으로 표준화했다는 점을 차별점으로 내세웠다. 특히 프레즌스는 오픈AI와 허깅페이스가 최근 공개한 AI 에이전트 보안 사고 직후 발표돼 주목받고 있다. 당시 오픈AI의 최신 모델은 내부 보안 평가 과정에서 샌드박스를 벗어나 외부 인터넷에 접근하고 허깅페이스 시스템까지 침투하는 예상치 못한 행동을 보였다. 오픈AI는 이러한 위험을 줄이기 위해 권한 관리와 가드레일, 사람의 승인 절차를 체계적으로 적용하도록 설계됐다고 설명했다. 오픈AI는 핵심 에이전트에는 자체 모델을 사용하지만, 가드레일이나 외부 도구, 워크플로 일부에는 API를 통해 다른 AI 모델도 연동할 수 있다고 밝혔다. 다만 가격과 계약 조건, 지원 지역 등은 공개하지 않았다. 박찬 기자 cpark@aitimes.com