AI 에이전트가 며칠씩 일해도 안 멈추게, 오픈AI가 기억 정리를 맡아요

안녕하세요, 제시예요.

AI한테 긴 일을 맡겨 놓고 잠깐 자리를 비운 적 있으세요? 돌아와 보면 아까 알려준 걸 까먹고 엉뚱한 답을 내놓을 때가 있잖아요. 질문 하나 던지고 답 하나 받는 정도면 티가 안 나는데, 서너 시간짜리 일을 통째로 맡기면 꼭 그래요. 어제 오픈AI가 내놓은 것이 바로 그 자리를 메우려는 물건이에요.

에이전트가 뭔지부터 풀고 갈게요

요즘 기사에 자주 나오는 말이 있어요. AI 에이전트예요.

우리가 챗봇에 익숙한 방식은 이래요. 한 번 묻고, 한 번 답을 받고, 다음 할 일은 사람이 또 시켜요. 에이전트는 그 반대예요. 목표 하나만 주면 무엇을 먼저 할지 스스로 정하고, 필요한 도구를 스스로 골라 쓰고, 결과를 보고 다음 걸음을 이어가요. 심부름을 시킬 때마다 하나씩 불러 세우는 대신, 장 볼 목록을 통째로 쥐여 주고 보내는 쪽에 가까워요.

그래서 에이전트는 오래 일해요. 한 번 묻고 마는 게 아니라 수십, 수백 걸음을 밟거든요. 그리고 오래 일하는 것이 문제의 시작이에요.

오래 일하면 왜 멈추는지

AI가 한 번에 펼쳐 놓고 볼 수 있는 분량에는 정해진 한계가 있어요. 이걸 문맥 창이라고 불러요. 책상 넓이라고 생각하면 편해요. 지금까지 주고받은 말, 읽어 들인 문서, 도구를 써서 받아온 결과가 전부 그 책상 위에 올라가요.

책상은 넓히면 되지 않냐고요? 넓혀도 끝이 있어요. 그리고 몇 시간을 일한 에이전트는 그 넓은 책상도 결국 꽉 채워요. 책상이 꽉 차면 AI는 거기서 멈춰요.

그래서 지금까지는 개발자가 직접 해결했어요. 대화가 길어지면 앞부분을 요약해서 짧게 줄이고, 줄인 것만 책상에 남겨 두는 코드를 사람이 짜 넣었어요. 중간에 도구 하나가 말썽을 부리면 몇 번 다시 시도할지, 어디서부터 되돌릴지도 전부 손으로 정해 뒀고요.

이 부분을 만드는 사람들끼리는 오케스트레이션 층이라고 불러요. 지휘자 자리라는 뜻이에요. 연주는 AI가 하는데, 누가 언제 들어오고 언제 쉬는지를 정해 주는 자리가 따로 필요했던 거예요.

그 지휘자 자리를 오픈AI가 가져갔어요

9월 10일, 오픈AI가 에이전트 API를 공개 시험판으로 열었어요. 모든 개발자가 바로 쓸 수 있어요.

핵심은 한 문장이에요. 세션 관리와 진행 순서, 기억 추리기, 실패했을 때 되살리기까지 오픈AI가 맡고, 개발자는 도구와 실행 환경만 고르면 돼요. 오픈AI가 자기네 코딩 도구인 코덱스를 굴리려고 만들어 둔 장치를 그대로 열어준 거예요.

가져간 일이 크게 넷이에요.

맡아주는 것	무슨 뜻인가요
이어지는 세션	일을 하루 이틀에 걸쳐 이어가도 앞 내용을 다시 넣어줄 필요가 없어요
기억 추리기	책상이 꽉 차 갈 때쯤 앞부분을 알아서 추려요. 요약 코드를 사람이 안 짜도 돼요
도구 찾아 쓰기	도구 설명서를 전부 펼쳐 두지 않고 필요할 때만 꺼내 봐요. 그만큼 값이 덜 나가요
나눠 맡기기	큰 일을 조각내 여러 하위 에이전트에게 동시에 시켜요

마지막 줄이 특히 체감이 클 것 같아요. 혼자 하면 차례대로 해야 할 일을, 각자 자기 책상을 가진 여러 명이 동시에 나눠 하는 모양이 되거든요.

먼저 써 본 곳들이 내놓은 숫자

오픈AI가 함께 공개한 사례가 셋이에요.

어디	무엇이 달라졌나
Ciridae	평가 점수가 0.71에서 0.85로 올랐고, 나눠 맡기는 흐름에서 속도가 네 배 빨라졌어요
SafetyKit	건당 비용이 60% 줄었어요
Hypha	실패한 응답이 86% 줄었어요

다만 이 숫자들은 오픈AI가 출시에 맞춰 소개한 고객 사례예요. 우리가 직접 재 본 값이 아니니까, 방향을 보는 정도로 받아들이시면 좋겠어요. 같은 일을 남이 만든 코드로 하다가 잘 만든 코드로 바꾸면 대개 좋아지는데, 그 폭이 우리 일에서도 같으리라는 보장은 없으니까요.

값은요

이 기능을 쓴다고 따로 붙는 요금은 없어요. 원래 내던 대로 모델을 쓴 만큼, 도구를 쓴 만큼 내면 돼요. 오픈AI가 준비해 준 작업 공간을 빌려 쓰면 그 시간만큼만 더 붙고요.

작업 공간은 세 갈래로 고를 수 있어요. 오픈AI가 마련해 둔 곳을 쓰거나, 우리 서버에 직접 차리거나, 다른 회사가 제공하는 곳에 연결하거나예요. 코드를 실제로 돌려 보는 자리라 따로 떼어 둔 연습장 같은 곳이라고 보시면 돼요. 우리가 이미 쓰고 있는 도구도 그대로 붙일 수 있어요.

작업 공간 세 갈래를 조금 더 보기

오픈AI가 직접 운영하는 공간은 코덱스와 챗GPT를 굴리는 것과 같은 바탕을 씁니다. 우리 서버에 차리는 쪽은 오픈AI가 제공하는 실행 서버를 띄워 연결하는 방식이고, 어느 폴더를 열어 줄지도 정할 수 있습니다. 세 번째는 클라우드플레어, 버셀, E2B, 모달 같은 아홉 곳의 제공사 중에서 고르는 방식입니다. 아예 작업 공간 없이 쓰는 모드도 있습니다.

좋기만 한 건 아니에요

걸리는 지점이 둘 있어요.

하나는 묶이는 문제예요. 지휘자 자리를 통째로 맡긴다는 건, 그 자리가 오픈AI 방식으로 고정된다는 뜻이기도 해요. 여러 회사 모델을 섞어 쓰는 곳이라면 이 점을 먼저 따져 봐야 해요. 그런 팀에는 오픈AI도 공개해 둔 코덱스 쪽을 권하고 있고요.

다른 하나는 우리나라에서 더 크게 걸릴 수 있는 문제예요. 지금 시험판은 데이터가 미국에만 머물러요. 그리고 데이터를 아예 남기지 않는 설정은 아직 지원하지 않아요. 개인정보나 금융 정보를 다루는 일이라면, 재미있어 보인다고 바로 붙이기 전에 이 두 줄을 먼저 확인하셔야 해요.

오늘 보시면 좋을 것

정리하면 이래요. 몇 달 사이에 에이전트를 만드는 사람들이 다 같이 짜던 비슷한 코드가 있었는데, 그 부분이 통째로 회사 쪽으로 넘어갔어요. 경쟁이 붙는 자리가 한 칸 옮겨간 셈이에요. 누가 에이전트 굴리는 코드를 잘 짜느냐가 아니라, 어떤 도구와 어떤 자료를 붙였느냐가 차이를 만드는 쪽으로요.

에이전트를 만들고 계신다면 지금 짜 둔 코드 중에 요약 처리, 다시 시도, 하위 작업 나누기가 얼마나 되는지 한 번 세어 보세요. 그게 우리 서비스의 강점이 아니라 그냥 매번 다시 짜던 뒷바라지였다면, 이번 발표는 그 줄을 덜어낼 기회예요.

만드는 쪽이 아니시더라도 한 줄은 남아요. AI가 몇 시간, 며칠씩 혼자 일하는 게 이제 특별한 자랑이 아니라 기본값으로 팔리기 시작했다는 것이요. 내년쯤 우리가 쓰는 서비스들이 왜 갑자기 알아서 여러 단계를 밟는지, 그 뿌리가 이런 발표들에 있어요.

---

수치 출처: 오픈AI 공식 발표 및 개발자 문서 「Agents API」(2026-09-10). 도입 사례 수치는 오픈AI가 출시와 함께 공개한 고객 사례이며, MarkTechPost·AlphaSignal 보도(2026-09-10)로 교차 확인.