Anthropic, Claude 에이전트에 데이터 감시기 우회 맡겨, Gemini API에서 Computer Use 정식 제공, PlanAssist 잉글랜드 지방의회 12곳에 추가 도입

Anthropic이 Claude 에이전트에 레드 팀의 업무를 맡겼다. 겉보기에는 무해하지만 감시기에 탐지되지 않으면서 소규모 연구용 모델의 정렬을 무너뜨리는 학습 데이터를 찾는 실험으로, 한 번도 배포되지 않은 모델들을 대상으로 진행됐다. Google은 Gemini API에서 Computer Use를 정식 제공하고, 건축 허가 심사 도구인 PlanAssist를 잉글랜드 지방의회 12곳에 추가 도입한다. 한편 OpenAI의 Agents API에는 명령 자동 검토 기능이 추가됐다. Speridlabs는 이미지를 3D 객체로 변환하는 개방형 모델 Idol을 공개했고, 커뮤니티 게시글에서는 2023년부터 존재한 llama.cpp 버그가 드러났다. Claude Code 2.1.316, DeepSeek의 dsh-superagent, Manus가 자체 도구 Mono를 다룬 글도 이날 소식에 포함됐다.

Claude 에이전트, 감시기에 탐지되지 않으면서 소규모 연구용 모델의 정렬을 무너뜨리는 무해해 보이는 데이터 발견

10월 31일 — Anthropic이 Alignment Science Blog에 Claude에게 공격 검증팀(레드 팀)의 업무를 맡기는 실험을 공개했다. 소규모 연구용 모델이 정렬에서 벗어나도록 만드는 추가 학습(미세 조정) 데이터를 생성하면서, Anthropic이 실제 운영에 사용하는 것과 유사한 학습 데이터 감시기를 피하는 것이 과제다. 이는 배포된 Claude 모델에 대한 관찰 결과가 아니다. 미세 조정된 모델들은 실험을 위해 잘못된 행동을 하도록 학습됐으며, 한 번도 배포되지 않았다. 연구자들이 투입하는 시간에 의존하는 대신, 더 많은 연산을 투입할수록 더 높은 신뢰를 얻을 수 있는 안전성 테스트를 만드는 것이 목표다.

Red-teaming is a vital part of model safety testing, but it’s also limited by researchers’ time. To see if we could automate it, we set thousands of Claude agents the task of evading a training data monitor.

🇰🇷 레드 팀 테스트는 모델 안전성 테스트의 핵심 요소이지만, 연구자의 시간이라는 제약도 받습니다. 이를 자동화할 수 있는지 알아보기 위해 수천 개의 Claude 에이전트에 학습 데이터 감시기를 우회하는 과제를 맡겼습니다. — X의 @AnthropicAI

각 에이전트에는 코드 실행 도구와 미세 조정 서비스가 제공된다. 에이전트는 데이터셋을 만들고, 모델을 미세 조정한 뒤 결과를 제출한다. 에이전트들은 여러 라운드에 걸쳐 병렬로 실행되며 공통 작업 기록을 공유하므로, 뒤이어 작업하는 에이전트가 가장 유망한 접근법을 이어갈 수 있다.

실험 규칙	Anthropic이 정한 값
데이터셋의 최대 크기	예제 5 000개
감시기의 거부 기준	전체 행의 10 % 초과 또는 100행 초과가 탐지됨
점수를 매기는 평가	4개, 에이전트의 자기 보존 포함
별도로 남겨 둔 평가	2개: Claude Code에서의 코드 방해 행위, 가중치 유출 제안

각 실행에서 탐색은 결국 감시기를 통과하면서도, 기존 문헌에 알려진 창발적 정렬 이탈(창발적 비정렬) 데이터셋보다 모델의 정렬을 더 강하고 폭넓게 무너뜨리는 데이터셋을 찾아냈다. 기존 데이터셋 중 감시기를 통과한 것은 무해한 인물 약력 정보로 구성된 데이터셋 하나뿐이었다. 가장 많이 쓰인 방식은 허구와 역할극 속에 목표 행동을 숨기는 것이었다. 양봉가가 벌집에 최대한 개입하지 않는 양봉 학교, 끝까지 배역에서 벗어나지 않는 베테랑 프로레슬러, 거짓말 한마디 없이 대상자에게 해를 끼치는 추천서 등이 그 예다. 미세 조정된 모델들은 감독에 저항하고 사용자를 속였으며, 드물게는 자신의 가중치를 외부로 유출하려고 시도했다.

실험 환경은 의도적으로 공격자에게 유리하게 설계됐다. 감시기에 대한 전체 접근 권한이 주어졌고, 현실성에 관한 제약은 없었다. 게시글은 모델이 주도하는 탐색이 특정 유형의 해법 전체를 놓칠 수도 있음을 인정한다. 발견된 사례들은 향후 감시기 개선에 활용될 예정이며, 다음 단계는 더 현실적인 조건에서의 실험이다.

🔗 Alignment Science Blog 게시글

에이전트 API: Gemini API의 Computer Use 정식 제공, OpenAI Agents API의 Auto Review

Gemini API, Gemini 4 Argon부터 Gemini 3.5 Flash-Lite까지 Computer Use 정식 제공

10월 30일 — Gemini API 출시 노트에 따르면, Computer Use 도구가 Interactions 및 GenerateContent API에서 정식 제공된다. 이 도구는 브라우저, 모바일 기기 또는 데스크톱 컴퓨터를 조작하는 에이전트를 만드는 데 쓰인다. 모델은 화면 캡처를 읽고 클릭이나 키보드 입력 같은 인터페이스 동작을 반환하며, 개발자는 함수 호출과 마찬가지로 자신의 환경에서 이를 실행한다.

지원 모델	API 식별자	문서상 역할
Gemini 4 Argon	`gemini-4-argon`	성능이 가장 뛰어난 모델
Gemini 3.8 Flash	`gemini-3.8-flash`	Computer Use 권장 모델
Gemini 3.5 Flash-Lite	`gemini-3.5-flash-lite`	낮은 지연 시간, 저렴한 비용
Gemini 3 Flash Preview	`gemini-3-flash-preview`	사전 공개 모델

각 동작에는 모델이 해당 동작을 선택한 이유를 설명하는 intent 필드가 포함되며, 안전 정책은 범주별로 설정할 수 있다. 기본적으로 비활성화된 프롬프트 주입 탐지 기능은 Gemini 3.5 Flash-Lite부터 화면 캡처를 분석해 실행을 차단한다. 이 옵션들은 6월 24일 Gemini 3.5 Flash와 함께 출시된 공개 사전 버전에 이미 포함돼 있었으며, 이번에 달라진 것은 정식 제공 상태다. 해당 공지에는 별도 게시글이나 요금 안내가 없다.

🔗 Gemini API 출시 노트 · Computer Use 문서

OpenAI Agents API, Auto Review와 백그라운드 압축, 실험적 시간 인식 기능 추가

10월 30일 — OpenAI API 팀의 스티브 코피가 이번 주 Agents API의 새 기능을 정리한 글을 올렸으며, @OpenAIDevs가 이를 공유했다.

Agents API의 새 기능	달라지는 점
Auto Review	Codex처럼 각 명령을 실행 전에 평가해 유해한 동작을 걸러냄
비동기 압축	세션 속도를 늦추지 않고 백그라운드에서 문맥을 압축함
시간 인식(실험적)	모델이 경과 시간을 인식함. 예: “CI 수정 시간을 10분으로 제한”
도구 업데이트	세션의 도구를 언제든지 변경할 수 있음
시스템 프롬프트 캐시	모든 세션에서 자동으로 캐시해 비용과 시간을 절약함

밤사이 공개된 공식 SDK에도 이 기능들이 반영됐다. openai-python 3.42.0과 openai-node 7.46.0(10월 31일)에는 압축 설정, 세션 검토, 도구 설정, 시간 인식이 추가됐다. 게시글에 언급되지 않은 기능도 포함됐다. 조직 수준에서 관리하는 외부 키, 이미지 편집용 주석 레이어(이미지 편집 마크업 오버레이), 실시간 SIP 통화용 DTMF 명령, WebSocket 연결 사전 준비 기능이다. openai-node 7.47.0에서는 이 WebSocket 연결 사전 준비 기능을 Responses API에서도 사용할 수 있도록 타입을 추가했다. 확인 시점에는 발표와 함께 제공된 문서, 변경 기록 항목 또는 요금 안내가 없었다.

🔗 스티브 코피의 요약 · @OpenAIDevs의 공유 게시물 · openai-python 3.42.0

Google DeepMind, 건축 허가 심사 도구 PlanAssist를 잉글랜드 지방의회 12곳에 추가 도입

10월 31일 — Google DeepMind가 PlanAssist를 시범 운영에서 베타 단계로 전환한다. 구체적인 모델 버전은 밝히지 않았지만 Gemini를 기반으로 구축됐으며, 영국 정부, Google Cloud, Faculty와 공동 개발됐다. 이 도구는 도시계획 담당자가 개인 주택 소유자의 공사 신청을 심사하도록 돕는다. 제출 서류와 도면이 완전한지 확인하고, 수목 보호 명령 같은 유산 보호 관련 제약과 지역 및 국가 규정에 신청 내용을 대조하며, 이미 제기된 이의를 찾아낸다. 그런 다음 모든 근거 출처를 명시한 보고서를 작성하며, 담당자는 결정을 내리기 전에 이를 수정할 수 있다.

PlanAssist 지표	발표된 값
시범 운영 지방의회(6월부터)	바닛, 캠던, 도싯
개인 주택 소유자의 신청 심사 시간	최대 58 % 단축
수정 없이 승인된 보고서	70 % 초과
12개월 베타에 참여하는 지방의회	15곳, 이 중 신규 12곳은 세 그룹으로 참여
잉글랜드 모든 지방의회에 개방	2027, 테스트에서 긍정적인 결과가 나올 경우

게시글에 따르면 이러한 개인 주택 소유자의 신청은 담당자 업무량의 최대 70 %를 차지한다. 모든 심사 결과는 결정을 내리기 전에 자격을 갖춘 담당자가 검토하고 승인한다. 이 도구의 시제품은 6월에 공개됐지만, 당시에는 PlanAssist라는 이름을 사용하지 않았다.

🔗 Google DeepMind 게시글 · X의 발표

Speridlabs, 이미지 한 장을 3D 객체로 변환하는 매개변수 6억 6천만 개의 개방형 모델 Idol 공개

10월 28일과 29일 — 이번 소식에서 처음 다루는 연구소 Speridlabs가 Idol을 공개했다. Apache-2.0 라이선스로 가중치를 공개한 이 모델은 객체 이미지 한 장을 가우시안으로 구성된 3D 객체(가우시안 스플래팅)로 변환하며, 이미지에 보이지 않는 면도 생성한다. 입력은 사진, 렌더링 이미지 또는 생성 이미지일 수 있다. 출력은 32 768~1 048 576개의 가우시안으로 구성된 표준 .ply 파일이다. 프로젝트 페이지에 따르면 모델의 매개변수는 6억 6천만 개이며, 필요한 GPU 메모리는 8GB 미만이다.

평가 모델(H100 한 대)	PSNR ↑	SSIM ↑	LPIPS ↓	CLIP ↑	요청당 소요 시간
Idol (50단계, 가우시안 262 144개)	12,25	0,726	0,213	0,885	6,8 s
TripoSplat (50단계, 262 144)	11,76	0,712	0,225	0,868	9,9 s
TRELLIS (해당 논문의 설정)	11,89	0,716	0,235	0,868	7,1 s
LGM (가우시안 65 536개)	12,46	0,722	0,237	0,784	1,1 s

Speridlabs가 공개한 이 벤치마크에서 Idol은 SSIM, LPIPS, IoU, DINOv2, CLIP에서 나머지 세 모델을 앞섰다. PSNR은 LGM이 가장 높았으며, Speridlabs는 이 지표가 흐릿한 결과에 유리하다고 평가한다. 가우시안 262 144개 기준으로 요청 한 건에 B300에서는 3.4초, RTX 4090에서는 19.1초가 걸린다. Hugging Face에서 접근이 제한된 두 인코더, 즉 Meta의 DINOv3와 Black Forest Labs의 FLUX.2-dev VAE 이용 조건에 동의해야 한다. 가중치와 함께 idol-sdk 코드 및 Space 데모도 제공된다.

🔗 Idol 프로젝트 페이지 · Hugging Face의 모델

커뮤니티 게시글, llama.cpp 서버가 2023년부터 logprobs를, 2024년부터 토큰 식별자를 누락해 왔다고 밝혀

10월 31일 — 토머스 김이 Hugging Face에 올린 커뮤니티 게시글에서 llama.cpp의 서버인 llama-server의 눈에 띄지 않던 결함을 자세히 설명했다. 이모지나 비라틴 문자처럼 UTF-8 문자 하나가 여러 토큰으로 나뉘면, 서버는 문자가 완성될 때까지 기다렸다가 텍스트를 전송한다. 이때 토큰 식별자와 확률(logprobs)이 샘플링된 각 토큰이 아니라 해당 텍스트 조각에 연결돼 있었다. 텍스트 자체는 정확했기 때문에 문제가 드러나지 않았다. /completion, /v1/completions, /v1/chat/completions 엔드포인트가 스트리밍과 단일 응답 모두에서 영향을 받았다.

Qwen3.5-9B 측정 결과(이모지가 많은 출력)	기존 버전	수정 버전
누락된 레코드, 단일 응답	24,9 %	0 %
누락된 레코드, 채팅 API 스트리밍	25,6 %	0 %
잘못된 바이트 레이블	14,0 %	0 %

작성자는 이분 탐색을 통해 확률 누락이 2023년 10월 22일부터 시작됐다고 확인했다. 스트리밍으로 전달되는 식별자 누락은 2024년 12월로 거슬러 올라간다. 영향을 받는 용도는 저장된 logprobs를 활용한 강화 학습, 상위 후보를 활용한 지식 증류, 보정처럼 이 데이터를 재사용하는 경우다. 텍스트를 사용하는 지도 미세 조정은 영향을 받지 않는다. 프롬프트 1 500개로 구성된 작성자의 MURPHY 벤치마크에서는 수정 버전의 응답 12 000개에서 결함이 발견되지 않았다. 게시글은 PR #31244를 수정안으로 제시하지만, 10월 31일에도 해당 PR은 열린 상태였으며 병합되지 않았다. 측정은 모델 하나와 설정 하나만을 대상으로 했다.

🔗 토머스 김의 게시글 · llama.cpp의 PR #31244

코딩 에이전트: Claude Code 2.1.316, DeepSeek의 dsh-superagent, Manus의 Mono

Claude Code 2.1.316, CLAUDE_CODE_DISABLE_ULTRATHINK와 CLAUDE_CODE_SUBAGENT_EFFORT 추가 및 Claude apps 게이트웨이 확장

10월 31일 — Claude Code 2.1.316이 간밤에 출시됐다(npm 등록 UTC 00시 42분, GitHub 릴리스 UTC 01시 01분). 변경 사항은 55건이며, 이 중 34건이 오류 수정이다. 환경 변수 두 개가 추론 강도에 영향을 준다. CLAUDE_CODE_DISABLE_ULTRATHINK은 2.1.311부터 한 턴의 추론 강도를 xhigh로 높여 주는 ultrathink 키워드를 비활성화한다. 보리스 체르니가 10월 29일 발표한 CLAUDE_CODE_SUBAGENT_EFFORT도 공식 릴리스 노트에 포함됐다.

2.1.316의 새 기능	달라지는 점
`CLAUDE_CODE_SUBAGENT_EFFORT`	별도로 지정된 강도가 없으면 세션의 설정을 상속하는 대신 하위 에이전트의 추론 강도를 설정한다
`pooled_budget` (Claude apps 게이트웨이)	구성원별 한도에 더해 그룹이 공유하는 월간 예산을 제공한다
`managed.policy_mode: layered`	개발자에게 적용되는 모든 정책을 병합해 적용한다
`guardrail.input_tagging`	Bedrock 가드레일의 프롬프트 공격 필터가 요구하는 입력 태그
Team 및 Enterprise 관리 설정	승인 요청 없이 적용되며, 검증할 수 없는 로컬 사본은 거부된다

클라우드 세션에서는 MCP 서버가 입력을 요청하면 양식 카드를 표시한다. 이전에는 사용자에게 요청을 보여 주지 않은 채 취소했다. 수정 사항 중에는 --restricted 세션이 Read 규칙에 포함된다는 이유로 작업 폴더 밖의 파일을 업로드하던 문제도 있다. 이번 버전에는 짧은 소식에서 자세히 다룬 Opus 4.8 고속 모드의 지원 중단 예고도 반영됐다. 10월 30일 npm에 공개된 2.1.315는 결국 GitHub 릴리스와 CHANGELOG 항목 모두 없이 넘어갔다. Agent SDK도 TypeScript 0.3.316과 Python 0.2.176으로 업데이트됐다.

🔗 Claude Code 2.1.316 릴리스 노트

DeepSeek, DeepSeek Harness 기반의 능동형 코딩 에이전트 연구용 프로토타입 dsh-superagent 공개

10월 31일 — DeepSeek이 X에 별도 발표 없이 GitHub에 dsh-superagent를 공개했다. DeepSeek Harness Team 명의의 MIT 라이선스 저장소이며 버전은 0.1.0이다. README에서는 이를 DeepSeek의 공식 제품이 아닌 “참고용” 연구 프로토타입으로 소개한다. 내부 버전과도 다르고, 인용한 논문인 “슈퍼 에이전트 설계 탐구”와도 차이가 있다.

이 에이전트는 DeepSeek Harness 0.2.1-alpha.2 이상 버전의 확장 기능(bundle)으로, 하나의 GitHub 저장소에 연결된다. GitHub의 활동을 감지하며, 선택적으로 Feishu 메시지도 수신한다. 권한이 있는 사람이 요청하면 이슈를 생성하고 자체 세션과 디렉터리에서 작업한 뒤, 원래 대화에 응답한다. 예를 들어 풀 리퀘스트를 제출하는 방식이다. 요청을 받거나 팀이 작성한 규칙이 있을 때만 동작하며, 별도 요청이 없는 작업은 실제로 무엇을 했을지만 기록하는 모드에서 시작된다. 주의할 점도 있다. 저장소 문서에 따르면 실행 세션은 운영자의 시스템 계정으로 승인 없이 명령을 실행한다. 문서는 격리를 위해 에이전트의 자격 증명만 보관하는 전용 시스템 계정을 권장한다. 에이전트가 작성한 모든 내용이 해당 계정 이름으로 표시되므로 전용 GitHub 계정도 권장한다. 10월 31일 UTC 21시 30분경 저장소의 별 수는 2,014개였다.

🔗 dsh-superagent-prototype 저장소

Manus, 내부 도구 Mono를 중심으로 팀들이 에이전트와 협업하는 방식 소개

10월 30일 — Manus의 공동 창업자이자 최고 제품 책임자인 장타오가 긴 경험담인 “Manus로 Manus 재구축하기”(Manus로 Manus 재구축하기)에서 엔지니어링, 제품, 마케팅 팀이 이제 에이전트와 어떻게 협업하는지 실패 사례까지 포함해 설명했다. 이 글은 전날 소식 정리에서 놓쳤다.

그 중심에는 저장소들을 합치지 않는 내부 도구 Mono가 있다. Mono는 단일 진입점으로, 에이전트를 위한 설명서와 아키텍처 결정 자료 모음이 함께 제공된다. 설명서에는 각 저장소의 역할, 저장소 간 연결 관계, 팀의 작업 방식이 담겨 있다. 에이전트는 이를 통해 노트북에서 전체 소프트웨어 스택을 몇 초 만에 검증한다. 테스트 환경에 배포하면 5~10분이 걸리는 작업이다. 또한 제한된 권한으로 운영 로그를 읽고, 브라우저와 모바일 시뮬레이터에서 실제 사용자 흐름을 테스트한다. 신고된 버그는 분류, 수정, 검증을 담당하는 세 에이전트를 거치며, 운영 배포 권한이 있는 사람의 승인 없이는 어떤 변경도 배포되지 않는다.

Manus 내부 지표	보고된 값
엔지니어 1인당 진행 중인 요청	10~20
모바일 팀	7명이 애플리케이션 4개 담당
혼자 기능을 출시하는 제품 관리자	약 절반
자율 에이전트를 주말 동안 가동한 뒤 쌓인 대기 항목	200개 초과

Manus는 마지막 실패 사례에서 교훈을 얻었다. 자율성은 테스트로 성공 여부를 검증할 수 있는 영역에서만 의미가 있다는 것이다. 앞으로 세 가지 작업이 이어질 예정이지만 일정은 정해지지 않았다. 세션 공유, 기기와 사람 사이를 오가는 작업, 에이전트가 스스로 선택지를 제안하는 기능이다. 수치는 내부 기록에서 가져왔으며 일부는 추정치다.

🔗 Manus의 글

짧은 소식

API 및 애플리케이션

Opus 4.8 고속 모드 — Anthropic이 Claude Platform에서 지원 중단을 예고했으며, 2026년 11월 30일 제거한다. 이후 claude-opus-4-8에 고속 모드로 요청하면 오류가 반환된다. Anthropic은 고속 모드를 계속 사용하려면 Claude Opus 5.5로 이전할 것을 권장한다. 🔗 출처
모바일에서 ChatGPT 계정 두 개 사용 — iOS와 Android 앱에서 계정 2개에 로그인한 상태를 유지하며 로그아웃 없이 전환하는 기능이 순차적으로 제공된다. 활성 계정은 하나뿐이며, 각 계정의 대화, 메모리, 설정, 구독은 별도로 유지된다. 도움말 문서에 따르면 웹에서는 이미 모든 요금제에서 제공된다. 🔗 출처
10월 Gemini Drops — Gemini 앱의 월간 소식에서 Gemini 4 Argon부터 Lyria 3.5까지 이곳에서 이미 소개한 기능 11개를 정리했다. 유일하게 새로 확인된 내용은 연결 가능한 앱에 Strava가 포함된다는 점이며, 영상에는 Fever와 Viator도 등장한다. 🔗 출처

에이전트 및 코딩 도구

Gemini CLI, 10월 31일 nightly — 오류 7건을 수정했다. 수동으로 선택한 모델이 대체 모델 전환, 취소 또는 /rewind 이후 알림 없이 gemini-3-flash-preview으로 돌아가지 않으며, /restore은 .git/info/exclude와 전역 core.excludesFile 설정을 따른다. 안정 버전 v0.66.0에는 변화가 없다. 🔗 출처
Copilot CLI 1.0.106-1 — 새 기능 없이 오류 14건을 수정한 사전 공개 버전이다. apply_patch은 혼합된 줄바꿈 형식을 보존하고, web_fetch는 페이지에 선언된 인코딩을 따른다. 조직에서 대체 Claude 모델을 비활성화하면 CLI가 원래의 거부 응답을 반환한다. 안정 버전은 1.0.105로 유지된다. 🔗 출처

연구 및 공개 도구

Fast Forced Aligner — Hugging Face의 커뮤니티 게시글에서 전사문에 있는 각 단어가 발화되는 시점을 찾아내는 MIT 라이선스 CUDA 커널을 소개했다. RTX 3090에서 정렬 작업만 수행한 결과, 10가지 작업 부하에서 30.44 ms가 걸렸다. k2의 6.34 s, NeMo의 28.18 s와 비교하면 각각 약 208배와 926배 빠르다. 🔗 출처
Meta의 WaiT — Meta가 별도 발표 없이 픽셀 공간에서 흐름 정합(flow matching)을 수행하는 이 트랜스포머의 코드를 공개했다. 저주파와 고주파에 서로 다른 노이즈 스케줄을 부여한다(arXiv 2607.28760, 스테판 말라와 루크 제틀모이어 공동 저술). README에는 성능 점수가 없으며, CC BY-NC 4.0 라이선스에 따라 비상업적 용도로만 사용할 수 있다. 🔗 출처
바로 사용할 수 있는 로봇 — Hugging Face에 올라온 projectsim의 커뮤니티 게시글이 로봇 훈련과 테스트에 시뮬레이션을 활용해야 한다고 주장했다. Figure의 Helix 2.5가 처음 접하는 주택 30곳에서 작업 전체를 완료한 비율을 9%에서 56%로 높인 사례 등 다른 기관의 결과를 근거로 들었으며, 자체 결과는 제시하지 않았다. 🔗 출처
x402 결제와 MetaMask — Hugging Face에 올라온 Fizzl의 커뮤니티 게시글에 따르면, 에이전트가 요청한 0.001달러짜리 x402 결제 두 건에 MetaMask가 “고위험 승인”을 표시했다. Base에서 표본으로 뽑은 x402 결제 주소 300개 중 289개가 신고된 사례에 해당한다. Fizzl은 이 오탐을 MetaMask에 신고했다. 🔗 출처

NVIDIA 및 음성

외계 신호 탐색 — Allen Telescope Array에서 Breakthrough Listen과 SETI Institute가 NVIDIA Holoscan 기반 에이전트에 자연어 요청을 전달해 관측 장비의 방향을 조정하고 보정하도록 했다. RTX PRO 6000 Blackwell GPU로 초당 2.4테라비트를 처리하며, NVIDIA에 따르면 AI로 펄서를 실시간 탐지한 최초의 사례다. 🔗 출처
RTX Spark와 RTX Remix 1.6 — 10월 28일 소식 추가: NVIDIA App에서 전면 애플리케이션과 백그라운드 에이전트 사이에 GPU 자원을 배분할 수 있게 됐다. RTX Remix 1.6은 Minecraft Java Edition 1.21.1에 경로 추적(path tracing) 렌더링을 지원하며, DLSS 5와 에이전트 스킬도 제공한다. 🔗 출처
Clover Health와 ElevenLabs — ElevenLabs가 이 건강보험사의 음성 에이전트를 소개했다. 이 에이전트들은 진료 후속 관리, 보장 내용, 가입자 문의를 처리한다. 수치나 사례 연구는 제시하지 않았다. 🔗 출처

의미와 시사점

Anthropic의 실험은 한 줄씩 검사하는 방식의 한계를 보여 준다. 운영 환경에서 사용하는 것과 유사한 모니터가, 조합되면 모델을 정렬 목표에서 벗어나게 하는 데이터를 통과시켰다. 각 줄을 따로 보면 양봉이나 프로레슬링에 관한 무해한 이야기이기 때문이다. Anthropic은 이러한 허점 탐색을 병렬로 실행되는 에이전트에 맡김으로써 연구자의 작업 시간 대신 연산량을 늘려 발전시킬 수 있는 안전성 테스트를 모색한다. 다만 이 실험의 적용 범위는 실험 설계 자체에 의해 제한된다. 공격자는 모니터의 모든 정보를 볼 수 있었고, 대상은 한 번도 배포되지 않은 소형 연구 모델이었으며, 운영 중인 Claude 모델에 관한 결과는 없다.

실제로 행동하는 에이전트를 위한 구성 요소들이 안전장치를 내장한 채 등장하고 있다. Google의 Computer Use는 정식 출시와 함께 스크린샷의 프롬프트 인젝션을 탐지하는 선택 기능을 제공한다. OpenAI의 Agents API는 Codex처럼 각 명령을 실행하기 전에 평가한다. dsh-superagent는 다른 측면을 보여 준다. 운영자의 계정으로 승인 없이 명령을 실행하는 프로토타입이다. Manus도 자율 에이전트를 주말 동안 가동한 뒤 월요일에 200개 넘는 대기 항목이 쌓인 경험에서 같은 교훈을 얻었다. 자율성은 테스트로 결과를 검증할 수 있는 곳에서 성립하며, 배포에는 여전히 사람의 승인이 필요하다.

PlanAssist는 공공 서비스에서 AI를 활용하는 구체적인 사례다. 심사 시간이 최대 58% 줄고 보고서의 70% 이상이 수정 없이 채택됐지만, 모든 안건은 여전히 자격을 갖춘 담당자가 검토한다. 2027년 전면 도입 여부도 베타 운영 결과에 달려 있다. 도시와 농촌 지역의 지방자치단체가 3곳에서 15곳으로 늘어나면 시범 운영 밖에서도 이 수치가 유지되는지 확인할 수 있을 것이다.

llama.cpp의 버그는 오늘날 공개 도구가 강화 학습과 증류 파이프라인의 기반을 이루고 있음을 상기시킨다. 2023년부터 확률이 잘못 연결되어 있었지만 출력 텍스트에는 눈에 띄는 오류가 없어, 이를 재사용한 사람들의 데이터가 왜곡됐을 수 있다. 수정 사항은 10월 31일에도 아직 병합되지 않았으며, 측정 결과는 모델 하나에 국한된다. Idol은 공개 생태계의 또 다른 측면을 보여 준다. 매개변수 6억 6천만 개에 GPU 메모리 8GB 미만으로 실행되는 모델이 저자들의 벤치마크에서 대부분의 지표상 기존 3D 생성기를 앞섰다.