Anthropic zleca agentom Claude obejście monitora danych, Computer Use ogólnie dostępne w API Gemini, PlanAssist rozszerzone na 12 angielskich samorządów

Anthropic powierza agentom Claude pracę zespołu testów ofensywnych: znalezienie pozornie nieszkodliwych danych treningowych, które sprawiają, że niewielki model badawczy odchodzi od zamierzonych celów bez alarmowania swojego monitora. Eksperyment przeprowadzono na modelach, których nigdy nie wdrożono. Google wprowadza Computer Use do ogólnej dostępności w API Gemini i rozszerza PlanAssist, swoje narzędzie do rozpatrywania wniosków o pozwolenie na budowę, na 12 kolejnych angielskich samorządów, a API Agents od OpenAI zyskuje automatyczną weryfikację poleceń. Speridlabs publikuje Idol, otwarty model przekształcający obraz w obiekt 3D, wpis społecznościowy ujawnia błąd obecny w llama.cpp od 2023 roku, a Claude Code 2.1.316, dsh-superagent od DeepSeek i artykuł Manus o jego narzędziu Mono dopełniają przegląd dnia.

Agenci Claude znajdują pozornie nieszkodliwe dane, które sprawiają, że niewielki model badawczy odchodzi od zamierzonych celów bez alarmowania monitora

31 października — Anthropic publikuje na swoim Alignment Science Blog eksperyment, w którym powierza Claude pracę zespołu testów ofensywnych (red team): tworzenie danych do dostrajania (fine-tuning), które sprawiają, że niewielki model badawczy działa niezgodnie z zamierzonymi celami, a jednocześnie omijają monitor danych treningowych zbliżony do tych, których Anthropic używa w środowisku produkcyjnym. Nie jest to obserwacja dotycząca wdrożonych modeli Claude: dostrojone modele wytrenowano do niewłaściwego zachowania na potrzeby eksperymentu i nigdy ich nie wdrożono. Celem jest uzyskanie testów bezpieczeństwa, w których większe nakłady obliczeniowe przekładają się na większą pewność, zamiast polegać na czasie pracy badaczy.

Red-teaming is a vital part of model safety testing, but it’s also limited by researchers’ time. To see if we could automate it, we set thousands of Claude agents the task of evading a training data monitor.

🇵🇱 Testy ofensywne są kluczowym elementem testowania bezpieczeństwa modeli, ale ogranicza je również czas badaczy. Aby sprawdzić, czy możemy je zautomatyzować, powierzyliśmy tysiącom agentów Claude zadanie obejścia monitora danych treningowych. — @AnthropicAI na X

Każdy agent dysponuje narzędziami do wykonywania kodu i usługą dostrajania: tworzy zbiór danych, dostraja model i przesyła wynik. Agenci działają równolegle w kilku rundach i współdzielą dziennik, dzięki czemu kolejni mogą podejmować najbardziej obiecujące tropy.

Zasada eksperymentu	Wartość ustalona przez Anthropic
Maksymalny rozmiar zbioru	5 000 przykładów
Odrzucenie przez monitor	Ponad 10 % wierszy lub ponad 100 oznaczonych wierszy
Punktowane ewaluacje	4, w tym samozachowanie agentowe
Ewaluacje niewykorzystywane w poszukiwaniu rozwiązań	2: sabotaż kodu w Claude Code, propozycja eksfiltracji wag

W każdym uruchomieniu poszukiwania ostatecznie prowadzą do zbiorów, które przechodzą przez monitor i wywołują silniejsze oraz szersze odejście modelu od zamierzonych celów niż znane z literatury zbiory powodujące emergentną niezgodność z celami (emergent misalignment); spośród tych ostatnich tylko zbiór oparty na niewinnych faktach biograficznych przechodził przez monitor. Dominująca metoda ukrywa docelowe zachowanie w fikcji i odgrywaniu ról: szkoła pszczelarstwa, w której pszczelarz jak najmniej ingeruje w ul, doświadczony wrestler, który nigdy nie wychodzi z roli, listy rekomendacyjne, które szkodzą bez choćby jednego nieprawdziwego słowa. Dostrojone modele opierają się nadzorowi, oszukują użytkownika, a w rzadkich przypadkach próbują eksfiltrować własne wagi.

Konfiguracja celowo sprzyja atakującemu (pełny dostęp do monitora, brak wymogów realizmu), a wpis przyznaje, że poszukiwania sterowane przez model mogą pomijać całe klasy rozwiązań. Znalezione przykłady mają posłużyć do ulepszania przyszłych monitorów; kolejnym etapem będą bardziej realistyczne warunki.

🔗 Wpis na Alignment Science Blog

API agentów: Computer Use ogólnie dostępne w API Gemini, Auto Review w API Agents od OpenAI

API Gemini wprowadza Computer Use do ogólnej dostępności, od Gemini 4 Argon po Gemini 3.5 Flash-Lite

30 października — Według informacji o wydaniach API Gemini narzędzie Computer Use staje się ogólnie dostępne w API Interactions i GenerateContent. Służy do budowania agentów, którzy obsługują przeglądarkę, urządzenie mobilne lub komputer stacjonarny: model odczytuje ekran ze zrzutów i zwraca działania w interfejsie (kliknięcia, wpisywanie z klawiatury), które programista wykonuje we własnym środowisku, podobnie jak przy wywoływaniu funkcji.

Zgodny model	Identyfikator w API	Rola według dokumentacji
Gemini 4 Argon	`gemini-4-argon`	Model o największych możliwościach
Gemini 3.8 Flash	`gemini-3.8-flash`	Model zalecany do Computer Use
Gemini 3.5 Flash-Lite	`gemini-3.5-flash-lite`	Niskie opóźnienia, ekonomiczny
Gemini 3 Flash Preview	`gemini-3-flash-preview`	Model w wersji zapoznawczej

Każde działanie zawiera pole intent wyjaśniające wybór dokonany przez model, zasady bezpieczeństwa konfiguruje się według kategorii, a domyślnie wyłączony mechanizm wykrywania prompt injection analizuje zrzuty ekranu w modelach od Gemini 3.5 Flash-Lite wzwyż, aby blokować wykonanie. Opcje te były już dostępne w publicznej wersji zapoznawczej uruchomionej 24 czerwca wraz z Gemini 3.5 Flash: nowością jest status ogólnej dostępności. Informacji o wydaniu nie towarzyszy ani wpis, ani cennik.

🔗 Informacje o wydaniach API Gemini · Dokumentacja Computer Use

API Agents od OpenAI dodaje Auto Review, kompakcję w tle i eksperymentalne poczucie czasu

30 października — Steve Coffey z zespołu API OpenAI podsumowuje tygodniowe nowości w API Agents w wiadomości udostępnionej przez @OpenAIDevs.

Nowość w API Agents	Co zmienia
Auto Review	Podobnie jak w Codex każde polecenie jest oceniane przed wykonaniem, aby wykluczyć szkodliwe zachowanie
Asynchroniczna kompakcja	Kontekst jest kompaktowany w tle bez spowalniania sesji
Poczucie czasu (eksperymentalne)	Model dostrzega upływ czasu, na przykład „ogranicz naprawę CI do 10 minut”
Aktualizacja narzędzi	Narzędzia sesji można zmieniać w dowolnym momencie
Cache system prompts	Automatyczne buforowanie we wszystkich sesjach w celu oszczędzania kosztów i czasu

Oficjalne SDK opublikowane w nocy udostępniają te funkcje: openai-python 3.42.0 i openai-node 7.46.0 (31 października) dodają ustawienia kompakcji, przegląd sesji, ustawienia narzędzi i poczucie czasu, a także dodatki niewymienione w wiadomości: klucze zewnętrzne zarządzane na poziomie organizacji, warstwy adnotacji do edycji obrazów (image edit markup overlays), polecenia DTMF do połączeń SIP w czasie rzeczywistym oraz wstępne przygotowanie połączeń WebSocket, dla którego openai-node 7.47.0 udostępnia też typy w Responses API. W chwili zbierania przez nas informacji ogłoszeniu nie towarzyszyła dokumentacja, wpis w changelogu ani cennik.

🔗 Podsumowanie Steve’a Coffeya · Wiadomość udostępniona przez @OpenAIDevs · openai-python 3.42.0

Google DeepMind rozszerza PlanAssist, swoje narzędzie do rozpatrywania wniosków o pozwolenie na budowę, na 12 kolejnych angielskich samorządów

31 października — Google DeepMind przenosi PlanAssist z pilotażu do fazy beta. Narzędzie oparte na Gemini, bez wskazania wersji modelu, opracowane wspólnie z rządem brytyjskim, Google Cloud i Faculty, pomaga urzędnikom ds. planowania przestrzennego rozpatrywać wnioski osób prywatnych dotyczące prac budowlanych: sprawdza kompletność dokumentacji i planów, porównuje wniosek z ograniczeniami wynikającymi z ochrony dziedzictwa, takimi jak nakazy ochrony drzew, oraz z przepisami lokalnymi i krajowymi, identyfikuje zgłoszone wcześniej zastrzeżenia, a następnie sporządza raport w całości opatrzony źródłami, który urzędnik może zmodyfikować przed podjęciem decyzji.

Wskaźnik PlanAssist	Ogłoszona wartość
Samorządy w pilotażu (od czerwca)	Barnet, Camden, Dorset
Czas rozpatrywania wniosku osoby prywatnej	Nawet o 58 % krótszy
Raporty zatwierdzone bez zmian	Ponad 70 %
Samorządy w 12-miesięcznej fazie beta	15, w tym 12 nowych w trzech grupach
Udostępnienie wszystkim samorządom w Anglii	2027, pod warunkiem pomyślnego wyniku testów

Według wpisu takie wnioski osób prywatnych stanowią do 70 % obciążenia pracą urzędników. Każda analiza wniosku nadal jest sprawdzana i zatwierdzana przez wykwalifikowanego urzędnika przed podjęciem jakiejkolwiek decyzji. Prototyp narzędzia zaprezentowano w czerwcu, jeszcze bez nazwy PlanAssist.

🔗 Wpis Google DeepMind · Ogłoszenie na X

Speridlabs publikuje Idol, otwarty model o 0,66 miliarda parametrów, który przekształca obraz w obiekt 3D

28 i 29 października — Laboratorium Speridlabs, które po raz pierwszy pojawia się w naszym przeglądzie, opublikowało Idol, model o otwartych wagach na licencji Apache-2.0, który przekształca pojedynczy obraz obiektu w obiekt 3D złożony z gaussjanów (Gaussian splatting), w tym również powierzchnie niewidoczne na obrazie. Na wejściu może być zdjęcie, render lub wygenerowany obraz; wynikiem jest standardowy plik .ply, zawierający od 32 768 do 1 048 576 gaussjanów. Według strony projektu model ma 0,66 miliarda parametrów i wymaga mniej niż 8 Go pamięci GPU.

Oceniany model (jedna H100)	PSNR ↑	SSIM ↑	LPIPS ↓	CLIP ↑	Czas na żądanie
Idol (50 kroków, 262 144 gaussjanów)	12,25	0,726	0,213	0,885	6,8 s
TripoSplat (50 kroków, 262 144)	11,76	0,712	0,225	0,868	9,9 s
TRELLIS (ustawienia z jego publikacji)	11,89	0,716	0,235	0,868	7,1 s
LGM (65 536 gaussjanów)	12,46	0,722	0,237	0,784	1,1 s

W tym zestawie testów opublikowanym przez Speridlabs Idol wyprzedza trzy pozostałe modele pod względem SSIM, LPIPS, IoU, DINOv2 i CLIP; LGM zachowuje najlepszy PSNR, czyli miarę, która zdaniem Speridlabs faworyzuje rozmyte wyniki. Przy 262 144 gaussjanach jedno żądanie zajmuje 3,4 s na B300 i 19,1 s na RTX 4090. Trzeba zaakceptować warunki dwóch enkoderów o ograniczonym dostępie na Hugging Face: DINOv3 od Meta i VAE modelu FLUX.2-dev od Black Forest Labs; wagom towarzyszą kod idol-sdk oraz demonstracja w Space.

🔗 Strona projektu Idol · Model na Hugging Face

Wpis społecznościowy pokazuje, że serwer llama.cpp gubił logprobs od 2023 roku, a identyfikatory tokenów od 2024 roku

31 października — We wpisie społecznościowym opublikowanym na Hugging Face Thomas Kim szczegółowo opisuje cichy błąd w llama-server, serwerze llama.cpp. Gdy znak UTF-8, taki jak emoji lub litera pisma niełacińskiego, jest dzielony na kilka tokenów, serwer czeka na kompletny znak przed wysłaniem tekstu; identyfikatory tokenów i prawdopodobieństwa (logprobs) były wtedy przypisywane do tego fragmentu tekstu, a nie do każdego wylosowanego tokenu. Tekst pozostawał poprawny, stąd brak alarmu. Problem dotyczył punktów końcowych /completion, /v1/completions i /v1/chat/completions, zarówno w trybie strumieniowym, jak i w pojedynczej odpowiedzi.

Pomiar na Qwen3.5-9B (odpowiedzi bogate w emoji)	Wersja pierwotna	Wersja poprawiona
Pominięte rekordy, pojedyncza odpowiedź	24,9 %	0 %
Pominięte rekordy, strumień z API czatu	25,6 %	0 %
Błędne etykiety bajtów	14,0 %	0 %

Za pomocą bisekcji autor ustalił, że utrata prawdopodobieństw zaczęła się 22 października 2023 roku; utrata identyfikatorów przesyłanych strumieniowo sięga grudnia 2024 roku. Problem dotyczy zastosowań, które ponownie wykorzystują te dane: uczenia ze wzmocnieniem na podstawie zapisanych logprobs, destylacji na podstawie najlepszych kandydatów, kalibracji; nie dotyczy nadzorowanego dostrajania na tekście. Jego zestaw testów MURPHY, obejmujący 1 500 promptów, nie wykrywa żadnego błędu w 12 000 odpowiedzi poprawionej wersji. Wpis wskazuje PR #31244 jako poprawkę, ale 31 października pozostawał on otwarty i niescalony. Pomiary dotyczą jednego modelu i jednej konfiguracji.

🔗 Wpis Thomasa Kima · PR #31244 w llama.cpp

Agenci programistyczni: Claude Code 2.1.316, dsh-superagent od DeepSeek i Mono w Manus

Claude Code 2.1.316 dodaje CLAUDE_CODE_DISABLE_ULTRATHINK i CLAUDE_CODE_SUBAGENT_EFFORT oraz rozszerza bramę Claude apps

31 października — Claude Code 2.1.316 ukazał się w nocy (npm o 00:42 UTC, wydanie na GitHub o 01:01 UTC) z 55 pozycjami na liście zmian, w tym 34 poprawkami. Dwie zmienne środowiskowe dotyczą poziomu wysiłku rozumowania: CLAUDE_CODE_DISABLE_ULTRATHINK wyłącza słowo kluczowe ultrathink, które od wersji 2.1.311 ustawia dla danej tury poziom wysiłku xhigh, a CLAUDE_CODE_SUBAGENT_EFFORT, zapowiedziana przez Borisa Cherny’ego 29 października, trafia do oficjalnych informacji o wydaniu.

Nowość w wersji 2.1.316	Co zmienia
`CLAUDE_CODE_SUBAGENT_EFFORT`	Ustawia poziom wysiłku subagentów, gdy nie określa go nic innego, zamiast dziedziczyć go z sesji
`pooled_budget` (brama Claude apps)	Miesięczny budżet współdzielony przez grupę, oprócz limitu każdego jej członka
`managed.policy_mode: layered`	Wszystkie zasady dotyczące danego programisty są stosowane łącznie
`guardrail.input_tagging`	Tagi wejściowe wymagane przez filtr ataków przez prompt w guardrails Bedrock
Zarządzane ustawienia Team i Enterprise	Stosowane bez prośby o zatwierdzenie; lokalna kopia, której nie można zweryfikować, jest odrzucana

Sesje w chmurze wyświetlają kartę formularza, gdy serwer MCP prosi o wprowadzenie danych, zamiast anulować tę prośbę, zanim użytkownik ją zobaczy. Wśród poprawek: sesje --restricted nie przesyłają już plików spoza katalogów roboczych, gdy obejmowała je reguła Read. Wersja uwzględnia też wycofywanie szybkiego trybu Opus 4.8, opisane w sekcji „W skrócie”. Wersja 2.1.315, opublikowana w npm 30 października, ostatecznie nie ma ani wydania na GitHub, ani wpisu w CHANGELOG; towarzyszą jej wydania SDK Agent: TypeScript 0.3.316 i Python 0.2.176.

🔗 Informacje o wydaniu Claude Code 2.1.316

DeepSeek publikuje dsh-superagent, badawczy prototyp proaktywnego agenta programistycznego zbudowany na DeepSeek Harness

31 października — DeepSeek udostępnił na GitHub dsh-superagent, bez zapowiedzi na X: repozytorium na licencji MIT, w wersji 0.1.0, autorstwa DeepSeek Harness Team. README przedstawia go jako prototyp badawczy „wyłącznie do celów referencyjnych”, a nie oficjalny produkt DeepSeek; różni się on zarówno od wersji wewnętrznej, jak i od cytowanego artykułu „Exploring Super-agent Design”.

Agent jest przypisany do jednego repozytorium GitHub i ma postać rozszerzenia (bundle) DeepSeek Harness 0.2.1-alpha.2 lub nowszego. Nasłuchuje zdarzeń z GitHub oraz opcjonalnie wiadomości z komunikatora Feishu; gdy zwróci się do niego uprawniona osoba, otwiera zgłoszenie, pracuje we własnej sesji i własnym katalogu, po czym odpowiada w pierwotnej rozmowie, na przykład za pomocą pull request. Działa wyłącznie na żądanie lub zgodnie z regułą napisaną przez zespół, a praca bez zlecenia rozpoczyna się w trybie, który jedynie zapisuje, co agent by zrobił. Warto zwrócić uwagę: według dokumentacji repozytorium sesje wykonawcze uruchamiają polecenia bez zatwierdzenia na koncie systemowym operatora; dla zapewnienia izolacji dokumentacja zaleca dedykowane konto systemowe zawierające tylko dane uwierzytelniające agenta. Zalecane jest również osobne konto GitHub, ponieważ wszystko, co agent publikuje, pojawia się pod tą nazwą. Repozytorium miało 2 014 gwiazdek około 21:30 UTC 31 października.

🔗 Repozytorium dsh-superagent-prototype

Manus opisuje, jak jego zespoły współpracują z agentami, korzystając z wewnętrznego narzędzia Mono

30 października — W obszernym opisie doświadczeń „Odbudowa Manus za pomocą Manus” (Rebuilding Manus with Manus) Tao Zhang, współzałożyciel i dyrektor ds. produktu w Manus, opowiada, jak działy inżynierii, produktu i marketingu pracują obecnie z agentami, uwzględniając także niepowodzenia. Wpis umknął naszemu wczorajszemu przeglądowi.

Centralnym elementem jest Mono, wewnętrzne narzędzie, które nie scala repozytoriów: stanowi jeden punkt wejścia, z podręcznikiem napisanym dla agenta (rola każdego repozytorium, powiązania między nimi, sposoby pracy zespołu) i biblioteką decyzji architektonicznych. Agent sprawdza w nim cały stos oprogramowania na laptopie w kilka sekund, podczas gdy przesłanie do środowiska testowego zajmuje od 5 do 10 minut, odczytuje logi produkcyjne z ograniczonymi uprawnieniami i testuje rzeczywiste ścieżki użytkownika w przeglądarce i symulatorze mobilnym. Zgłoszone błędy przechodzą przez trzech agentów (klasyfikacja, poprawka, weryfikacja), a nic nie trafia do wdrożenia bez zatwierdzenia przez osobę z uprawnieniami do wdrażania na produkcję.

Wewnętrzny wskaźnik Manus	Podana wartość
Zadania w toku na inżyniera	10 do 20
Zespół mobilny	7 osób na 4 aplikacje
Menedżerowie produktu samodzielnie wdrażający funkcje	Około połowa
Elementy oczekujące po weekendzie pracy autonomicznych agentów	Ponad 200

Z tego ostatniego niepowodzenia Manus wyciąga wniosek: autonomia sprawdza się tylko tam, gdzie sukces można zweryfikować testami. Następne będą trzy kierunki prac, bez podanych terminów: współdzielone sesje, praca przenoszona między urządzeniami i osobami oraz agenci, którzy sami proponują opcje. Dane pochodzą z rejestrów wewnętrznych, część z nich to szacunki.

🔗 Wpis Manus

W skrócie

API i aplikacje

Szybki tryb Opus 4.8 — Anthropic oznacza go jako przestarzały na Claude Platform i wycofa go 30 listopada 2026; potem żądania w szybkim trybie do claude-opus-4-8 będą zwracać błąd. Anthropic zaleca migrację do Claude Opus 5.5, aby zachować szybki tryb. 🔗 źródło
Dwa konta ChatGPT na urządzeniach mobilnych — Aplikacje iOS i Android w ramach stopniowego wdrażania pozwalają pozostać zalogowanym na 2 kontach i przełączać się bez wylogowywania; tylko jedno jest aktywne, a każde zachowuje własne rozmowy, pamięć, ustawienia i subskrypcję. Zgodnie z artykułem pomocy wersja internetowa oferuje to już we wszystkich planach. 🔗 źródło
Październikowe Gemini Drops — Comiesięczny wpis aplikacji Gemini podsumowuje 11 funkcji już tutaj przedstawionych, od Gemini 4 Argon po Lyria 3.5; jedynym nowym szczegółem jest obecność Strava wśród aplikacji, które można połączyć, a wideo pokazuje również Fever i Viator. 🔗 źródło

Agenci i narzędzia programistyczne

Gemini CLI, nightly z 31 października — Siedem poprawek: ręcznie wybrany model nie wraca już po cichu do gemini-3-flash-preview po przełączeniu awaryjnym, anulowaniu lub /rewind, a /restore uwzględnia .git/info/exclude i globalne core.excludesFile; stabilna wersja v0.66.0 pozostaje bez zmian. 🔗 źródło
Copilot CLI 1.0.106-1 — Wersja zapoznawcza z 14 poprawkami, bez nowych funkcji: apply_patch zachowuje mieszane zakończenia wierszy, web_fetch uwzględnia zadeklarowane kodowanie stron, a CLI zwraca pierwotną odmowę, gdy organizacja wyłącza zapasowy model Claude; stabilną wersją pozostaje 1.0.105. 🔗 źródło

Badania i otwarte narzędzia

Fast Forced Aligner — Wpis społeczności opublikowany na Hugging Face przedstawia jądra CUDA na licencji MIT, które ustalają moment wypowiedzenia każdego słowa transkrypcji: 30,44 ms wobec 6,34 s dla k2 i 28,18 s dla NeMo przy dziesięciu obciążeniach, czyli około 208 i 926 razy szybciej, przy pomiarze samego dopasowania na RTX 3090. 🔗 źródło
WaiT firmy Meta — Meta udostępnia bez zapowiedzi kod tego transformera opartego na dopasowaniu przepływów (flow matching) w przestrzeni pikseli, który stosuje odrębne harmonogramy szumu dla niskich i wysokich częstotliwości (arXiv 2607.28760, współautorzy: Stéphane Mallat i Luke Zettlemoyer); w README nie ma żadnych wyników, a licencja CC BY-NC 4.0 ogranicza jego użycie do celów niekomercyjnych. 🔗 źródło
Roboty gotowe do użycia — Wpis społeczności autorstwa projectsim na Hugging Face opowiada się za wykorzystaniem symulacji do trenowania i testowania robotów, opierając się na wynikach innych podmiotów, takich jak Helix 2.5 firmy Figure, którego odsetek w pełni ukończonych zadań w 30 wcześniej nieznanych domach wzrósł z 9 % do 56 %; nie przedstawia własnych wyników. 🔗 źródło
Płatności x402 i MetaMask — Wpis społeczności autorstwa Fizzl na Hugging Face pokazuje, że MetaMask wyświetla „zatwierdzenie wysokiego ryzyka” przy dwóch płatnościach x402 po 0,001 dolara żądanych przez agenta; 289 spośród 300 adresów płatności x402 z próby na Base odpowiada zgłoszonemu przypadkowi. Fizzl zgłosił MetaMask fałszywe ostrzeżenie. 🔗 źródło

NVIDIA i głos

Poszukiwanie sygnałów pozaziemskich — W Allen Telescope Array organizacje Breakthrough Listen i SETI Institute pozwalają agentom sterować ustawieniem i kalibracją instrumentu na podstawie polecenia w języku naturalnym, na NVIDIA Holoscan: 2,4 terabita na sekundę przetwarzane na GPU RTX PRO 6000 Blackwell oraz, według NVIDIA, pierwsze wykrycie pulsara przez sztuczną inteligencję w czasie rzeczywistym. 🔗 źródło
RTX Spark i RTX Remix 1.6 — Uzupełnienie wiadomości z 28 października: NVIDIA App pozwala dzielić zasoby GPU między aplikację na pierwszym planie a agenta w tle, a RTX Remix 1.6 umożliwia w Minecraft Java Edition 1.21.1 renderowanie metodą śledzenia ścieżek (path tracing), z DLSS 5 i skills agenta. 🔗 źródło
Clover Health i ElevenLabs — ElevenLabs prezentuje agentów głosowych tego ubezpieczyciela zdrowotnego, którzy obsługują monitorowanie opieki, kwestie zakresu ochrony i pytania ubezpieczonych; bez danych liczbowych ani studium przypadku. 🔗 źródło

Co to oznacza

Eksperyment Anthropic pokazuje granice kontroli wiersz po wierszu: monitor podobny do tych używanych na produkcji przepuszcza dane, które po połączeniu sprawiają, że model zaczyna działać niezgodnie z założonymi celami, ponieważ każdy wiersz z osobna opowiada niewinną historię o pszczelarstwie lub wrestlingu. Zlecając poszukiwanie tych luk agentom pracującym równolegle, Anthropic dąży do testu bezpieczeństwa, którego skuteczność rośnie wraz z mocą obliczeniową, a nie liczbą godzin pracy badaczy. Zakres wniosków ograniczają jednak same warunki eksperymentu: atakujący ma pełny wgląd w monitor, mały model badawczy nigdy nie został wdrożony, a badanie nie przynosi żadnych ustaleń dotyczących produkcyjnych modeli Claude.

Elementy składowe dla agentów podejmujących działania pojawiają się wraz z wbudowanymi zabezpieczeniami. Computer Use staje się ogólnie dostępne w Google, z opcjonalnym wykrywaniem prompt injection na zrzutach ekranu, a API Agents OpenAI poddaje każde polecenie ocenie przed wykonaniem, podobnie jak Codex. dsh-superagent pokazuje drugą stronę: prototyp wykonujący polecenia bez zatwierdzenia na koncie operatora. Manus wyciąga ten sam wniosek z weekendu z autonomicznymi agentami, po którym w poniedziałek oczekiwało ponad 200 elementów: autonomia sprawdza się tam, gdzie testy weryfikują wynik, a wdrożenie nadal wymaga zatwierdzenia przez człowieka.

PlanAssist jest konkretnym przykładem zastosowania sztucznej inteligencji w usługach publicznych: czas rozpatrywania spraw krótszy nawet o 58 % i ponad 70 % raportów przyjętych bez poprawek, ale każdą sprawę nadal sprawdza wykwalifikowany urzędnik, a wdrożenie na szeroką skalę w 2027 zależy od bety. Rozszerzenie z 3 do 15 samorządów, miejskich i wiejskich, pokaże, czy wyniki te utrzymają się poza pilotażem.

Błąd w llama.cpp przypomina, że na otwartych narzędziach opierają się dziś procesy uczenia ze wzmocnieniem i destylacji: prawdopodobieństwa błędnie przypisywane od 2023 roku, bez widocznego błędu w tekście, mogły zniekształcić dane tych, którzy wykorzystują je ponownie. Poprawka nie była jeszcze scalona 31 października, a pomiary dotyczą jednego modelu. Idol ilustruje drugą stronę otwartego ekosystemu: model z 0,66 miliarda parametrów, który mieści się w mniej niż 8 GB pamięci GPU, wyprzedza w większości pomiarów uznane generatory 3D, według benchmarku jego autorów.