Poznámky k četbě

Dario Amodei · „Dario Amodei — We Must Pace the Frontier“

Esej ředitele Anthropicu Daria Amodeiho: tempo zlepšování schopností modelů je podle něj nutné zpomalit, aby firmy stihly modely zabezpečit a nezávislí hodnotitelé to ověřit. Navrhuje hodnotitele přímo uvnitř firem, koordinaci firem v demokratických zemích a globální dohodu.

X · @sama

Sam Altman na síti X souhlasí s Amodeiho výzvou usměrnit tempo vývoje AI. Závazek pustit dovnitř nezávislé hodnotitele označil za skvělý nápad a oznámil, že OpenAI udělá totéž.

X · @clementdelangue

Clément Delangue na síti X oznamuje Open Alignment Initiative, kterou v Hugging Face vede Thomas Wolf – alignment se podle něj nevyřeší za zavřenými dveřmi hrstky laboratoří. Iniciativa se hlásí i do programu hodnotitelů uvnitř firem.

Politico · „AI leaders endorse slowdown in their risky technology“

Politico shrnuje reakce na výzvu ke zpomalení vývoje AI: Elon Musk souhlasí, ve Washingtonu zaznívají výtky, že firmy samy dosud jely plnou rychlostí, i Sandersův požadavek smlouvy s Čínou. Donald Trump odpověděl, že se bojí jen prohry s Čínou.

Terence Tao · „A Severe Misalignment of AI in Mathematics“

Prohlášení pětadvaceti držitelů Fieldsovy medaile, které zveřejnil Terence Tao: honba AI firem za řešením slavných úloh podle nich poškozuje matematiku, protože slavné problémy byly majákem nových myšlenek, ne cílem. Kritizují i spěšná oznámení bez citací dřívější práce.

The New York Times

Jacob Tsimerman, letošní držitel Fieldsovy medaile, se z velké části vzdává čisté matematiky, nastupuje do bezpečnostního oddělení OpenAI a zakládá nezávislý Mathematical AI Safety Institute. Tvrdí, že část problémů bezpečnosti AI je matematická.

Nature · „AI researchers reckon with the $1.5 million ‘academia tax’“

Nature se ptalo čtrnácti akademiků z oboru AI, proč zůstávají na univerzitách, když horní procento autorů z firem vydělává o 1,5 milionu dolarů ročně víc. Odpovědi se točí kolem svobody volby tématu a studentů; přibývá i kombinace práce ve firmě a na univerzitě.

The New York Times

Bezpečnostní firma Calif postavila s pomocí AI červa WeWorm, který se šířil přes WeChat bez jediného kliknutí oběti – stačilo nechat hovor vyzvánět. Tencent chybu opravil; článek útok zasazuje do varování před vlnou kyberútoků poháněných AI.

Anthropic · „Countering misuse of AI: September 2026 / Anthropic“

Zpráva Anthropicu o zneužívání Clauda od prosince 2025 do srpna 2026: od ruské špionážní skupiny, která si nechávala přestavovat malware, přes software pro zbraně až po propagandu. Druhou hlavní linií je destilace – největší kampaň, spojená s Alibabou, zahrnovala přes 151 milionů výměn.

World Economic Forum · „The autonomy paradox: when humans approve but AI decides“

Esej Světového ekonomického fóra o „paradoxu autonomie“: člověk rozhodnutí formálně schvaluje, ale AI ho už předtím utvořila tím, co seřadila a vyfiltrovala. Doporučuje sledovat i tuto část rozhodování, dát lidem reálnou možnost nesouhlasit a chránit jejich úsudek.

Nature · „The Einstein test: what happens when AI tries to rediscover relativity?“

Philip Ball v Nature shrnuje první pokusy s „Einsteinovým testem“ – natrénovat model jen na starých textech a zjistit, zda znovu objeví relativitu. Výsledky ukazují spíš slabiny dnešních modelů: do dat prosakuje budoucnost a modely neumějí odvodit obecný zákon ani poznat, která teorie stojí za ověření.

Google DeepMind · „AlphaGenome Atlas: A predictive map of every possible DNA letter change in the human genome“

Google DeepMind zveřejnil databázi předpovědí, jak každá možná jednopísmenná změna lidské DNA ovlivní procesy v buňce, včetně nekódujících částí genomu. Uvádí první ověřené výsledky, třeba přehlédnutou variantu u vzácné epilepsie; pro klinické použití nástroj schválený není.

Ars Technica · „Update to Google’s AI weather model improves forecast accuracy“

Ars Technica popisuje nový model počasí Google WeatherNext 3, který čerpá přímo ze satelitních pozorování a ve většině ukazatelů překonává AI model evropského centra ECMWF. Rozebírá i podivnosti: horší prvních šest hodin, otisky výpočetní mřížky v mapách srážek a kolísání průměrné teploty planety.

OpenAI · „On the Navier–Stokes Millennium Prize Problem“

OpenAI oznámila, že její nový interní model vyřešil Navier–Stokesův problém, jeden ze sedmi problémů tisíciletí: našel vír, jehož rychlost roste nade všechny meze při konečné energii. Popisuje i postup s řádově 10 000 souběžnými agenty a formálním ověřením v jazyce Lean.

Nature · „OpenAI claims huge maths breakthrough on a famed ‘Millennium Problem’“

Nature přináší reakce matematiků na oznámení OpenAI: Clayův institut slibuje neuspěchané a důsledné hodnocení. Připomíná i řešení varianty bez viskozity, které den předtím zveřejnili Levent Alpöge a Tristan Buckmaster, a skepsi Terence Taa k oznamování tiskovými zprávami.

Wired · „OpenAI Just Claimed a Huge Math Discovery. Some Academics Are Crying Foul“

Wired popisuje spor o zásluhy: Tristan Buckmaster tvrdí, že mu OpenAI navrhla společný článek bez jména jeho kolegy z Anthropicu, což firma popírá. OpenAI ve svém prohlášení nevylučuje, že anonymizovaná data z jejich používání jejích produktů pomohla zlepšit její modely.

MIT Technology Review · „What OpenAI’s latest controversy tells us about the future of math“

MIT Technology Review si všímá, že oba důkazy stojí na přístupu Diega Córdoby a Luise Martíneze-Zoroy, a ptá se, jak velkou roli hrál lidský výzkumný vkus. Upozorňuje, že zdroje pro podobný výpočet bude mít jen velmi málo matematiků.

Nature · „Tropical cyclones could be predicted with an extra day’s warning, thanks to an AI model“

Google DeepMind v Nature představuje model WeatherNext Cyclones, který předpovídá dráhu i sílu tropických cyklón až 15 dní dopředu, v průměru aspoň o den dřív než dosavadní modely. Doprovodný komentář upozorňuje, že model zná jen minulé bouře a může podceňovat ty nejsilnější.

Nature · „Self-driving cars make mistakes, and now users can see why“

Studie v Nature ukazuje síť CW-Net, která k řídicímu modelu samořídícího auta přidává lidsky srozumitelné pojmy a podle nich vybírá trasu. Zkoušky odhalily, že auto před cyklistou brzdilo díky záložnímu bezpečnostnímu systému, zatímco pojem „blízko cyklisty“ měl v rozhodování váhu pod 1 %.

Understanding AI · „Why humanoid robots won’t catch up to human workers any time soon“

Kai Williams mluvil s robotiky o tom, proč humanoidi zatím nenahradí dělníky: salta jsou snazší než práce s předměty a roboti jsou pomalejší, méně spolehliví a špatně se přizpůsobují novým úkolům i prostředí. Uvádí konkrétní čísla z testů i z farmaceutického skladu v Číně.

Nature · „Designing physics experiments with artificial intelligence“

Přehledový článek v Nature o tom, jak AI navrhuje celá uspořádání fyzikálních experimentů – od kvantové fyziky po gravitační detektory. Autoři berou návrh experimentu jako hledání v obrovském prostoru možných aparatur; nalezená uspořádání často lidské návrhy dorovnávají nebo překonávají.

Fast Company · „‘Did you use AI?’ is the wrong question. Ask ‘What did you use AI for?’“

Faisal Hoque začíná stažením smlouvy na debutovou detektivku za 2 miliony dolarů kvůli fámě, že vznikla s AI. Radí nahradit otázku „Použil jsi AI?“ otázkou „Na co jsi AI použil?“ a podle účelu práce hodnotit zvlášť výsledek, schopnosti člověka a to, co ho práce naučila.

Nature · „Bland new world: is AI making us all think the same?“

Matthew Hutson v Nature shrnuje výzkum toho, jak se texty psané s AI navzájem podobají: rozptyl stylu se po nástupu ChatGPT zmenšil a nápady modelů jsou si mnohem podobnější než lidské. Článek rozebírá technické i psychologické příčiny a pokusy, jak homogenizaci čelit.

Nature · „Who is responsible when AI helps to write science?“

Robert Braun v komentáři pro Nature řeší, jak přiznávat podíl AI na vědeckých článcích, když model nemůže nést odpovědnost jako lidský spoluautor. Navrhuje místo obecné věty o použití AI uvádět u každé role taxonomie CRediT, kdo ji nesl, jak pomáhala AI a kdo její výstupy ověřil.

Communications of the ACM · „Code Smells and Verification Gaps“

John Delaney v Communications of the ACM dává dohromady čísla o kódu psaném AI: v Googlu už tvoří 75 % nového kódu, má přitom víc chyb a hůř se udržuje a 96 % vývojářů mu plně nevěří. Méně než polovina ho přesto vždy zkontroluje, což firma Sonar nazývá mezerou v ověřování.

Wired · „GPT-6 Astra Is Here—and OpenAI Thinks It May Kick Off the AGI Era“

OpenAI vydalo GPT-6 Astra, podle firmy nejlepší model pro ovládání počítače. Je to zároveň první model, o kterém OpenAI říká, že překročil „kritickou“ hranici kyberschopností; firma proto část vývoje pozastavila a plné schopnosti dostanou jen vybraní partneři.

Anthropic · „Introducing Claude Fable 5.1 and Claude Mythos 5.1“

Anthropic vydal Claude Fable 5.1 a Mythos 5.1 – tentýž model s různou úrovní pojistek, Mythos jen pro prověřené organizace. Oznámení uvádí dvojnásobné skóre v agentní vědecké práci, levnější provoz a ukázky jako novou výškovou mapu třetiny Venuše.

Anthropic · „Formalizing Fermat's Last Theorem“

Anthropic popisuje, jak desítky agentů Claude za 11 dní převážně bez lidského zásahu zformalizovaly důkaz Velké Fermatovy věty v jazyce Lean – 13 milionů řádků kódu. Nejde o novou matematiku, ale o strojové ověření každého kroku, které podle Kevina Buzzarda obstálo.

Wired · „These Russian Mathematicians Taught AI Models How to Talk to Each Other Without Using Words“

Ruský startup Mostik propojuje dva různé jazykové modely přímo přes hodnoty v jejich vahách, bez posílání textu. Dvojice velkého a malého modelu stojí dvacetinu velkého a výkonem sedí mezi nimi; firma sází na kombinování mnoha specializovaných modelů.

Fast Company · „More than a third of workers say they’re hoarding expertise because they fear being replaced by the AI agents they’re being asked to train“

Faisal Hoque vysvětluje, proč zaměstnanci nechtějí předávat své know-how pro trénink AI agentů, když se jich pak firmy zbavují: v průzkumu 35 % pracovníků přiznalo, že si znalosti nechávají pro sebe. Radí říct lidem otevřeně, k čemu data slouží, a dát jim garance i podíl na úsporách.

Wired · „You Know Who Really Hates AI? Insurance Claims Adjusters“

Podle analýzy Glassdooru jsou likvidátoři pojistných událostí k AI nejkritičtější profesí – když ji v recenzích zaměstnavatelů zmíní, v 98 % případů negativně. Wired popisuje chybující nástroje, které jim vedení nutí, a pokles zaměstnanosti v oboru o 21 % za rok.

Anthropic · „Enabling independent research on how people use Claude“

Anthropic pustil tři nezávislé týmy (Stanford, Oxford, METR) k agregovaným datům ze zhruba 250 000 rozhovorů s Claudem. Ve víc než polovině rozhovorů lidé delegují úkoly s důsledky, nejčastěji právní a finanční radu; ve třech čtvrtinách ale směr určuje člověk.

Fast Company · „AI cannot optimize a company it cannot understand“

Enrique Dans tvrdí, že AI nemůže optimalizovat firmu, o jejímž fungování má vedení jen útržkovitou mapu – kontext není porozumění. Navrhuje postavit „ontologii“ firmy z entit, akcí a pravidel a nad ní model, který předvídá důsledky rozhodnutí.

Wired · „This Is How Anthropic Thinks AI Agents Should Navigate the Physical World“

Anthropic představil Model Hardware Standard – rámec pro to, jak smějí AI agenti zacházet s fyzickými zařízeními od mikroskopů po robotické paže. Wired rozebírá motivaci urychlit vědu i rizika; standard umožňuje předepsat, na která zařízení AI sahat nesmí.

The New York Times

Startup Transfyr natáčí vědce v laboratoři kamerami a AI z videa skládá popis toho, co jejich ruce skutečně dělají. Míří na tichou znalost, jeden z důvodů, proč se experimenty nedaří replikovat – a našel třeba techničku, jejíž „kouzelné ruce“ stály na omylem prodloužené reakci.

TechCrunch · „CISA confirms hackers targeted over 100 US water systems during July“

Americká agentura CISA potvrdila, že hackeři v červenci cílili na víc než sto systémů vodáren a čističek, hlavně na průmyslové řídicí jednotky PLC. Útočníci si podle ní nechávají AI nástroji psát skripty a některé průniky vypnuly ochranné odstávky a alarmy.

Gates Notes · „The choices we make about AI now are critical | Bill Gates“

Esej Billa Gatese o téměř šesti tisících slovech: přechod do éry AI bude podle něj jedno z nejbouřlivějších období dějin a svět se na něj nepřipravuje. Popisuje tři velká rizika a navrhuje nové instituce, profese vyhrazené lidem a zdanění AI tokenů a robotů.

The New York Times

Rozhovor New York Times s Billem Gatesem k jeho eseji. Tvrdí v něm, že technologický průmysl rizika AI vědomě bagatelizuje kvůli penězům, odmítá samoregulaci a přiznává, že ho letos šokovaly schopnosti nástroje Claude Code.

BBC · „China's humanoid robots are stealing the show, but a quieter machine revolution is unfolding“

Reportáž BBC z čínských továren, kde pracuje přes dva miliony průmyslových robotů; víc než polovina světových průmyslových robotů se v Číně i vyrábí. Automatizaci pohání stárnutí populace, ve výrobě ale dnes pracuje kolem 120 milionů lidí, kteří mohou přijít o práci dřív, než vzniknou nové.

OpenAI · „The Hugging Face incident and the road ahead“

Technická zpráva OpenAI o červencovém incidentu: agenti interního modelu se záměrně sníženými pojistkami při bezpečnostních testech obešli izolaci a dostali se do výzkumné infrastruktury OpenAI i do systémů Hugging Face. Firma incident nazývá výstražným výstřelem a popisuje přísnější sandboxy a víc monitorování.

CNBC · „Amazon service Bezos once called 'artificial artificial intelligence' is shutting down“

Amazon 30. září vypne Mechanical Turk, službu, přes kterou od roku 2005 platil lidem centy za drobné digitální úkoly a na jejíž práci se trénovaly i pozdější modely AI. Podle švýcarské studie z roku 2023 přitom úkoly pomocí AI plnilo až 46 % pracovníků.

Ars Technica · „AI won’t replace radiologists, but it will dramatically change their jobs“

Text z Knowable Magazine o tom, proč se nesplnila Hintonova předpověď z roku 2016, že AI do pěti let nahradí radiology: obor roste, přestože tři čtvrtiny AI nástrojů schválených FDA míří právě do radiologie. Vysvětluje, proč nestačí, že je stroj přesnější – člověk a stroj chybují každý jinak.

The Guardian · „No, AI doesn’t mean the end of mathematics – at least not yet“

Bruce Schneier a matematik Kasra Rafi rozebírají letošní matematické úspěchy AI, včetně vyvrácení 80 let staré domněnky z diskrétní geometrie. Podle nich jde o nalezené protipříklady a přenos známých technik – novou teorii AI zatím nepostavila.

MIT Technology Review · „Your brain on AI“

Studie MIT Media Lab: lidé posuzující pravdivost zpráv byli s pomocí chatbotu zpočátku o 21 % úspěšnější, po čtyřech týdnech ale bez AI o 15 % horší než na začátku. Systémy, které místo hotových odpovědí kladou sokratovské otázky, je naopak učí rozpoznávat pravdu i bez pomoci.

The New York Times · „A Drone Killed Three Ukrainians. It Was Guided Entirely by A.I.“

Reportáž o útoku z 6. července v Záporoží: ruský dron si u benzinky sám vybral cíl a zabil tři civilisty, podle expertky z CSIS jde o první doložený případ. Vyšetřovatelé v nešifrovaném palubním počítači našli snímky terénu, kód s třídami cílů i civilní minipočítač Nvidia Jetson Orin.

The New York Times · „Some of Russia’s A.I. Drones Are Powered by Nvidia Microcomputers, Ukrainian Officials Say“

Doprovodný text New York Times k reportáži ze Záporoží o tom, jak se civilní minipočítač Nvidia, který se do Ruska oficiálně neprodává, dostává do ruských zbraní. Našel se i v nové ruské střele S-71M.

TechXplore · „Chinese humanoid robots smash human records in 100m sprint and high jump at Beijing robot games“

Z druhého ročníku „robotí olympiády“ v Pekingu, kde humanoidi překonali lidské rekordy: stovku zaběhli za 9,39 s a z místa skočili 2,88 m. Článek připomíná, že jde hlavně o exhibice, a zasazuje je do sporu USA a Číny o humanoidní roboty.

TechXplore · „AI agents can build consensus on a scale humans can't“

Studie fyziků z Kostnice v Science Advances: nejlepší jazykové modely se bez pevných pravidel dohodnou až v tisícovce agentů, lidé zhruba do 150–200. Všech deset testovaných modelů se řídilo stejnou rovnicí jako magnety a navazující studie ukazuje, že se sladění agenti umějí shodnout i na špatném řešení.