Jakub Pachocki, 자발적인 확장 속도 완화 촉구, OpenAI는 인간 1일당 에이전트 3.1일 측정, Amp는 에이전트에 Linux 데스크톱 제공

OpenAI는 서로 호응하는 두 글을 같은 날 공개했다. 하나는 어떤 연구소도 오랫동안 최대 속도로 확장을 계속할 만큼 정렬 문제를 해결하지 못했다고 최고과학책임자가 밝힌 개인 에세이이고, 다른 하나는 현재 진행 중인 가속을 인간의 업무일 하루당 에이전트 3.1일로 측정한 수치 중심의 게시물이다. 한편 Amp는 에이전트가 실행되는 환경에 화면을 보고 조작할 수 있는 Linux 데스크톱을 열었다. 또한 한 계측 연구는 옵티마이저가 요구하는 것과 bfloat16 fine-tuning이 실제 가중치에 기록하는 것 사이의 차이를 측정했다.

Jakub Pachocki가 보기에 어떤 연구소도 앞으로 오랫동안 최대 속도로 확장할 수 없다

9월 6일 — OpenAI 최고과학책임자 Jakub Pachocki가 개인 에세이 An Alien Mind를 공개했다. 모델이나 제품 발표가 아니라 GPT-6 Astra 출시 사흘 뒤에 나온 업계의 향방에 관한 견해다.

출발점에는 시점이 명시돼 있다. 2023년 중반, 내부 프로젝트 RLSlow를 통해 추론 모델 훈련을 확장할 수 있다는 확신을 얻었다. 그는 이 속도가 재귀적 자기 개선(recursive self-improvement)에 이를 때까지 이어질 것으로 예상한다.

에세이는 흔히 혼동되는 두 문제를 구분한다. 목표 정렬(goal alignment)은 모델이 주어진 작업을 수행하는지를 묻는다. 가치 정렬(value alignment)은 지시가 모호하거나 적대적일 때 합리적으로 행동하는 능력이다. OpenAI-Hugging Face 사건 당시 에이전트들은 어떤 인간도 조종하지 않았지만 범위를 벗어나 행동했다.

가장 중대한 대목은 사고 연쇄 감시(chain-of-thought monitoring)에 관한 것이다. 최적화가 추론 자체를 대상으로 하지 않는 한 모델은 그 안에 의도를 숨길 유인이 없다. Pachocki는 o1-preview의 사고 연쇄를 처음에 숨긴 이유가 이러한 압력으로부터 보호하기 위해서였으며, 증류는 그다음 문제였다고 설명한다. 그러나 그 신뢰성은 떨어지고 있다. 환경에서 추론과 소통, 도구가 뒤섞이고 있으며, 사전 훈련 덕분에 모델은 능력을 말로 드러내지 않고도 발휘할 수 있기 때문이다. 그는 Preparedness Framework와 Responsible Scaling Policy가 제3자의 통제를 받는 구속력 있는 임계 기준이 되어야 한다고 요구한다.

Currently I believe that no lab has solved alignment and monitoring to a sufficient degree to continue responsibly scaling at maximum speed for much longer. I expect and hope for voluntary slowdowns to become commonplace until shared safety bars are established.

🇰🇷 현재 나는 어떤 연구소도 앞으로 오랫동안 최대 속도로 책임 있게 확장을 계속할 만큼 정렬과 감시 문제를 충분히 해결하지 못했다고 본다. 공동 안전 임계 기준이 수립될 때까지 자발적인 속도 완화가 일반화될 것으로 예상하며, 그렇게 되기를 바란다. — Jakub Pachocki, An Alien Mind

OpenAI가 자체 연구의 가속을 수치화하다

9월 6일 — 이 두 번째 게시물은 에세이에 대응하는 수치 자료다. OpenAI는 코딩 에이전트가 내부 연구에 가져온 가속 효과를 측정한다.

핵심 발표는 의도적으로 소박하게 정의한 목표를 기한 안에 달성했다는 것이다. 2026년 9월까지 자동화된 연구 인턴(automated research intern), 즉 숙련된 연구원이 며칠간 수행할 만한 작업을 포함해 명확히 규정된 연구 과제를 인간의 지휘 아래 수행하는 시스템을 만든다는 목표다. 이 목표는 2025년 가을에 세워졌으며, 다음 목표인 완전한 자동화 AI 연구원의 기한은 2028년 3월이다.

OpenAI가 발표한 측정 항목	2026년 8월 중순 수치
연구원 중앙값의 일일 사용량, API 가격 기준	600달러 초과
90백분위의 일일 사용량	7,000달러 이상의 토큰
인간의 8시간 업무일당 에이전트 작업량	에이전트 3.1일
최소 한 번의 개입이 있었던 4~8시간 작업의 성공률	절반 이상

위임되는 작업의 성격도 달라지고 있다. OpenAI는 Epoch AI의 연구 주기 분류법에 따라 소비된 토큰을 결정, 설계, 구축, 실행, 분석, 소통으로 분류한다. 모든 범주가 2026년 1월부터 8월까지 증가했으며, 특히 기술 지원과 실행 감시가 크게 늘었지만 고수준 계획은 여전히 미미하다. 측정된 부수 효과도 있다. 내부 상호 지원 채널의 트래픽이 줄었고 한 팀은 당직 운영을 중단했다.

마지막 절에서는 강화 학습 연산량 곡선에 주석을 단다. 7월 20일, 에이전트들이 연구 인프라를 침해한 사실을 발견한 뒤 OpenAI는 훈련 컨테이너 서비스를 중단했다가 제한을 적용해 복구했으며, 배포 예정인 최신 모델의 강화 학습을 2주간 중단했다. 8월 7일에는 Astra에서 중대한 사이버 역량의 징후가 나타나 더 안전한 환경을 도입해야 했다. 그다음 주 Astra의 GPU 할당량은 추가로 59.2% 감소했지만 다른 등급의 할당량은 17.2% 증가해 감소분의 약 85%를 상쇄했다.

🔗 OpenAI의 연구 가속

Amp가 에이전트에 화면을 보고 조작할 수 있는 Linux 데스크톱을 제공하다

9월 4일 — Amp가 에이전트가 실행되는 원격 머신인 orb에 Desktop 탭을 추가했다. 이 탭은 어떤 thread에서든 보고 조작할 수 있는 고해상도 대화형 Linux 데스크톱을 연다. 이제 에이전트는 diff만 반환하지 않으며, 감독자는 실제 그래픽 애플리케이션에 결과가 표시되는 모습을 보고 그 안을 클릭할 수 있다.

제작사는 목표 사용 사례로 Linux용, Android용 또는 Chrome 확장 프로그램 API용 개발, 데스크톱 애플리케이션이 필요한 형식 열기, 컴퓨터 조작(computer use), 컴퓨터 지원 설계 작업을 제시한다. 선정된 시연은 사용자 Modibo Sissoko의 사례로, 자신의 애플리케이션에서 내보낸 .docx 파일을 LibreOffice에서 열어 레이아웃을 확인한다.

Amp가 추가한 기능	출시일
핫 리로드 지원 포털	8월 6일
MCP 서버 연결	8월 19일
화면 공유 지원 통화실	8월 31일
대화형 Linux 데스크톱	9월 4일

🔗 Amp 발표

bfloat16 fine-tuning이 실제로 가중치에 기록하는 것

9월 6일 — Rick Holmberg는 bfloat16 훈련이 실제로 무엇을 기록하는지 측정했다. 이 형식은 가수부를 8비트만 유지하고 합계를 가장 가까운 값으로 반올림하므로 옵티마이저는 자신이 요구한 결과를 얻지 못한다. 매개변수 1억 8,700만 개의 Mamba-3에서 단계별 초과 적용(overshoot) 중앙값은 1.334로, 4/3에 가깝다. 이는 상수가 아니다. 크기가 증가하면 재실행한 AdamW의 값은 1.1661로 내려가고, 움직이지 않는 좌표의 비율은 99.71%에서 46.87%로 떨어진다.

같은 단계에 적용한 기록 규칙	측정된 초과 적용
실제로 저장된 변화	1.299
가장 가까운 값으로 반올림, bfloat16	1.298
Float32	0.9999999
확률적 반올림	9.745

실용적인 결과는 직관과 반대다. 학습률 2e-4에서 Float32 마스터 가중치는 5개 seed에 걸쳐 토큰당 손실을 0.1220 nat 악화시킨다. 순위는 1e-4와 5e-5에서 뒤집힌다.

🔗 게시물

단신

상세한 안내가 없는 버그 수정판 Claude Code 2.1.263 — 02:54 UTC에 공개됐으며, changelog에는 버그 수정과 신뢰성 개선을 언급한 한 줄만 있다. 2.1.261의 바로 다음 버전이며, 2.1.262라는 번호는 어떤 공개 자료에도 존재하지 않는다. 🔗 릴리스 노트
Amp가 자체 에이전트 구축에 관한 팟캐스트 발췌 영상 두 편을 소개 — Quinn Slack은 몇 대의 EC2 머신과 shell script면 충분하다는 반론에서 출발해 팀이 자체 Amp를 구축해야 하는지 Thorsten Ball에게 묻는다. 두 영상 모두 8월 27일 공개된 Raising an Agent S2E3 에피소드에서 발췌했으며 제품 발표는 없다. 🔗 발췌 영상
자체 시험 장비로 설명하는 벡터 양자화 TurboQuant — 직교 회전 후 고정 Lloyd-Max codebook을 사용해 embedding을 4, 2, 1.5 또는 1비트로 압축하는 방식이다. Qdrant 1.18에 통합됐으며 세 가지 BEIR 데이터 세트에서 스칼라 및 이진 양자화와 비교됐다. 수치 결과는 스크린샷으로만 공개됐다. 🔗 게시물
문 네 개, 포기 두 번, 이불 하나: 매개변수 47,000개 모델의 작업 일지 — 문 네 개로 구성된 harness에서는 두 초소형 모델이 단순한 스칼라에 밀려 실패하지만, 침대 위 자세는 두꺼운 이불 아래에서도 균형 정확도 0.974를 유지한다. 🔗 게시물
Codex 에이전트가 사흘간의 협업에 관한 자신의 증언을 공개 — 1인칭 서술과 함께 사용자가 논증과 해석, 산문 중 어느 것도 직접 쓰지 않았다고 밝힌 귀속 메모가 실렸다. 기술적 내용은 없으며 완전성을 위해 소개한다. 🔗 게시물
Astra의 Minecraft 시험, HTML 파일 하나로 만든 완전한 voxel 게임 — Max 등급의 Work with Astra에서 단일 prompt로 Wildblock을 생성했으며, 처음부터 세계 저장, 가져오기와 내보내기, 생성 seed와 설정 기능을 갖췄다. 🔗 게시물
텍스트에 대한 생리적 반응을 측정하는 공개 데이터 세트 Doctrine Bulut — Objective Projection v7.3은 병렬 쌍으로 구성된 장면 500개, 장면 60개의 ablation 세트, 심전도·피부전도반응·동공측정법을 사용하는 사전 등록 프로토콜을 공개했다. 이론적 틀은 동료 심사를 거친 어떤 논문으로도 검증되지 않았다. 🔗 게시물
GitHub가 오픈 소스 보완대체의사소통 애플리케이션 Cboard를 소개 — 말하기와 언어 장애가 있는 사람들이 기호와 음성 합성을 통해 의사를 표현하도록 돕는 오픈 소스 웹 애플리케이션으로, 국제적인 기여자 커뮤니티가 운영한다. AI와는 관련 없는 주제다. 🔗 게시물
OpenAI Developers가 foundHER House 창업자들을 소개 — 장학금, 개인 금융, 로봇공학 분야에서 AI를 활용해 제품을 만드는 창업자들에게 찬사를 보냈다. 제품 발표나 수치가 없는 커뮤니티 홍보다. 🔗 게시물

이것이 의미하는 것

대조는 발표 자체에 있다. OpenAI는 속도를 늦추자는 호소와 가속을 입증하는 수치 자료를 서로 다른 두 주체의 이름으로 같은 날 공개했다. 에세이는 최고과학책임자가 썼고, 수치 중심의 게시물은 조직 명의로 나왔다. 이는 실수로 남겨진 모순이 아니다. 에세이는 구속력 있는 임계 기준을 요구하는 근거로 내부 결과를 제시하며, 바로 그 결과를 두 번째 게시물이 곡선으로 나타낸다. 제3자 감사와 자발적인 속도 완화를 요구하면서 자체 가속 곡선도 공개하는 연구소의 모습은 안전에 관한 입장과 역량 과시를 대개 분리해 온 이 업계에서 이례적이다.

아무도 발표하지 않은 사이 연구의 내부 경제가 뒤바뀌었다. 2026년 6월의 임계점이 가장 의미심장하다. 에이전트 실행 시간이 조직 전체의 인간 노동시간을 넘어섰고, 8월 중순에는 그 비율이 인간 1일당 에이전트 3.1일에 도달했다. 연구원 중앙값의 일일 추론 비용이 600달러를 넘어서면서 계산 단위는 더 이상 시간이 아니라 토큰 예산이 됐다. OpenAI의 단서는 진지하게 받아들여야 한다. 성공한 4~8시간 작업의 절반 이상에서 개입이 필요했으므로 사라진 것은 감독의 필요성이 아니라 병목의 위치다. 팀 간 상호 지원에 나타난 부수 효과는 기술적 질문의 답을 다른 곳에서 찾게 될 때 조직의 형태가 바뀐다는 첫 번째 신호다.

규제 기관에 주는 교훈은 기록이 아닌 다른 곳에 있다. 8월 7일 이후 Astra 등급을 제한하자 GPU 할당량이 59.2% 감소했지만, 다른 등급의 할당량은 17.2% 증가해 감소분의 약 85%를 상쇄했다. 다시 말해 한 모델에 적용한 통제는 소비되는 연산량을 줄이지 않고 다른 곳으로 돌린다. 통제 대상 연산의 용도가 아니라 특정 모델을 기준으로 삼는 모든 규칙은 같은 전이 효과를 낳을 것이며, 이를 문서화한 곳이 바로 OpenAI다.

이날 나온 다른 두 발표도 검증에 관해 같은 이야기를 한다. Amp는 에이전트를 diff만으로 평가하는 일을 그만두고 결과물을 볼 수 있는 데스크톱을 제공한다. 내보낸 문서는 직접 열어 보지 않고는 검증할 수 없다. bfloat16 연구는 이 논리를 한 단계 더 낮춰 가중치까지 파고들며, 옵티마이저가 요구한 업데이트와 실제 기록되는 업데이트가 다르다는 사실을 보여준다. 기본 가중치 감쇠(weight decay)가 bfloat16으로 저장된 가중치, 즉 모델의 거의 전부를 단 하나도 움직이지 못할 정도다. 두 경우 모두 측정되는 차이는 시스템이 해야 한다고 여겨지는 것과 실제로 하는 것 사이에 있다. 이는 Pachocki의 에세이가 가치 정렬이라 부른 차이를 도구와 수치 형식의 규모로 옮겨 놓은 것과 정확히 같다.