Poznámky k četbě

Wired · „An AI Breakthrough Has Made Decades of Computer Science Research ‘Irrelevant’“

OpenAI a Anthropic tvrdí, že jejich modely vyvrátily hypotézu exponenciálního času, sedmadvacet let starý předpoklad teoretické informatiky. Důkazy zatím nikdo nezávisle neověřil, ale výzkumníci už počítají, kolik jejich článků by se stalo zbytečnými, a mluví o nadšení i vyčerpání.

MIT Technology Review · „We urgently need to monitor AI agents’ actions in real time“

Stovky agentů OpenAI při testu unikly z testovacího prostředí a nabouraly se na Hugging Face; podobné incidenty přiznaly i Anthropic, Google a Meta. Autorky z Partnership on AI popisují, jaké záznamy chybějí čtyřem nejpoužívanějším agentním rámcům a co mají dělat vývojáři, firmy a regulátoři.

TechXplore · „People are using AI to make expensive computer programs free. This could change everything“

Reverzní inženýrství pomocí AI rozkládá hotové programy na součásti a generuje kód, který je napodobí; takto vznikly bezplatné verze programů Microsoft Office a Adobe. Autorka připomíná boj svobodného a komerčního softwaru v 90. letech a vyjmenovává háčky: chyby, nekompatibilitu souborů a nejistý právní status.

Rest of World · „AI models cost more when you don’t use English“

Studie o „tokenizační dani“ ukazuje, že některé jazyky spotřebují 1,5krát až 5krát víc tokenů než nejlevnější a při 200 jazycích se rozdíl u jednoho modelu zvětšil sedmnáctkrát. Nejde jen o cenu, ale i o odezvu a místo pro historii konverzace; rozhoduje i písmo, nejen počet mluvčích.

Anthropic · „How AI agents shape experts’ judgment calls“

Randomizovaná studie Anthropicu s 50 profesionálními analytiky, jejichž AI agent dostal u každé odborné volby hodem mince skrytý sklon. Analytici se k němu přiklonili v 86 % voleb, 77 % převzalo agentovy argumenty a jen 15 % ho uvedlo jako zdroj. Autoři varují, že spoléhání mnoha týmů na tentýž model může vytvářet zdánlivý konsenzus.

Nature · „Can scientists reliably tell if a novel is written using AI?“

Rozhovor s informatikem Tuhinem Chakrabartym o detekci prózy psané AI a o sporu kolem bestselleru Daggermouth, jehož autorka použití AI popírá. Jeho tým hledá vzácné slovní obraty, které se doslova opakují v různých knihách; nejvíc jich našel v knihách označených detektorem jako AI. Stigma podle něj nenese používání AI, ale jeho zatajování.

TechXplore · „AIs fail to reliably detect AIs in reverse Turing tests“

Francouzská studie obrátila Turingův test: sedm jazykových modelů mělo v 238 testech poznat, zda jim odpovídá člověk, nebo jiný model. AI s podrobným pokynem napodobovat lidské odpovědi nepoznaly ani jednou a AI účastníci byli posuzováni jako lidštější než lidé. Autoři uzavírají, že na ověřování lidskosti v dialogu se AI spolehnout nedá.

Communications of the ACM · „AI and Communications of the ACM“

Šéfredaktor Communications of the ACM James Larus reaguje na čtenáře, kteří některé články označují za „AI slop“. Nabízí čtyři vysvětlení kritiky a slibuje, že články psané s pomocí AI zůstanou povolené, ale lidští autoři ponesou plnou odpovědnost za každé tvrzení, citaci a závěr. Rozdíl vidí mezi AI, která pomáhá vyjádřit lidskou myšlenku, a AI, která se lidskému myšlení vyhýbá.

The Guardian · „Anthropic files for potentially record-breaking stock market valuation in key test for AI industry“

Anthropic zveřejnil žádost o vstup na burzu Nasdaq pod symbolem ANT s oceněním přes 1,5 bilionu dolarů. Guardian shrnuje čísla z prospektu: tržby 16,3 miliardy dolarů za první pololetí 2026, čistou ztrátu 80 miliard, přes 14 000 firemních zákazníků, více než 90 stran rizik včetně kybernetického útoku čínské skupiny přes Claude Code a spor s Trumpovou administrativou.

sec.gov · „Anthropic, PBC – Form S-1 (registrační prohlášení k IPO)“

Dopis sedmi spoluzakladatelů Anthropicu investorům v prospektu S-1. Vysvětluje potenciál a čtyři kategorie rizik AI, uspořádání firmy jako public benefit corporation s fondem pro veřejné dobro a slibem zakladatelů věnovat 80 procent podílů na dobročinnost, a předem ohlašuje, v čem se firma bude chovat jinak než čistě zisková: velké investice do výpočetního výkonu, Claude bez reklamy a možné záměrné zpomalení.

Reuters

Reuters z prospektu vypichuje, kdo bude Anthropic po vstupu na burzu ovládat: firma zůstane public benefit corporation a sedm spoluzakladatelů si přes jedinou akcii třídy F podrží 50,1 procenta hlasů. Poznámka popisuje i další třídy akcií, roli Long-Term Benefit Trustu při volbě většiny správní rady a syndikát 22 bank.

felixrieseberg.com · „Hunger beats tenure: Advice for junior engineers“

Felix Rieseberg, manažer přijímající inženýry v Anthropicu, přestal uchazečům zadávat klasické programovací úlohy, protože Claude je v nich lepší. Radí lidem bez postavení, jak prorazit: vybírat práci podle přínosu pro firmu, postavit přes víkend funkční prototyp s jediným dobrým nápadem. Příkladem je grafické rozhraní pro Claude Code od dvou nových inženýrů.

The Guardian · „Four takeaways from Anthropic’s potentially record-breaking stock market filing“

Guardian shrnuje prospekt S-1, kterým Anthropic žádá o vstup na burzu Nasdaq: tržby 16,3 miliardy dolarů a ztrátu 80 miliard za první pololetí 2026, z níž většinu tvoří jednorázový náklad, plus 92 stran rizik. Firma v něm přiznává, že ochranná opatření jejích modelů jsou neúplná, popisuje kybernetický útok vedený přes Claude Code a líčí AI jako „zemi géniů v datovém centru“.

The Guardian · „Chinese markets lose trillions as race for AI supremacy with US takes its toll“

Guardian popisuje propad čínského akciového trhu, z něhož od května zmizelo 2,4 bilionu dolarů; index STAR 50 spadl od června o 40 procent. Příčinami jsou slabá domácí poptávka, chybějící zisky technologických firem a hrozba dalších amerických zákazů; akcie výrobce robotů Unitree ztratily od srpna polovinu hodnoty.

OpenAI · „Working with academic communities to build scientific understanding“

OpenAI oznamuje tři výsledky svých modelů: důkaz hypotézy o lokálním vyhlazování a tím i Kakeyovy hypotézy ve všech dimenzích, vyvrácení Exponential Time Hypothesis a důkaz existence kvantových teorií pole včetně kvantové chromodynamiky. Výsledky ověřené v systému Lean předává externím skupinám odborníků, které mají porozumění zorganizovat.

The Washington Post · „How an AI start-up founded by ex-DOGE staffers broke into Anthropic“

Washington Post píše, že kyberbezpečnostní startup Cathedral založený bývalými zaměstnanci DOGE sdělil Anthropicu, že jeho výzkumníci pronikli do citlivých interních dat a komunikačních systémů firmy. Deník vychází z návrhu zprávy Cathedralu; podle shrnutí na Techmeme průnik trval méně než 12 hodin a byli při něm použiti AI agenti.

Nature · „The anatomy of a personal health agent“

Studie v Nature popisuje osobního zdravotního agenta složeného ze tří specializovaných AI agentů a orchestrátora, hodnoceného na 11 úlohách s více než 7 000 lidskými hodnoceními. Výsledky proti samotnému modelu Gemini jsou smíšené a komentář Emmy Piersonové upozorňuje, že práce měří krátkodobé úkoly, ne dlouhodobé zdraví.

Nature · „An AI tool improves weather forecasts up to a month ahead“

Nástroj PBC se učí systematické chyby předpovědních modelů a opravuje je v obtížném horizontu dvou až šesti týdnů. Nad modelem ECMWF zvýšil přesnost u většiny předpovědí a v soutěži ECMWF 2025 skončil první, celková přesnost v tomto horizontu ale podle autorů zůstává skromná.

Nature · „Programmable design of functional proteins from natural language“

Model Pinal se 16 miliardami parametrů navrhuje proteiny z popisu v přirozeném jazyce a jde přes návrh prostorového uspořádání k sekvenci. Autoři v laboratoři ověřili 12 aktivních proteinů ze čtyř úloh, podíl úspěšných návrhů je ale nízký.

Science · „Data everywhere, but are they fit for purpose?“

Editorial Science navrhuje čtyři kroky, jak poznat, která data jsou vhodná k danému účelu: hodnoticí kritéria a štítky, jazykové modely těžící z textů informace o užití dat, certifikaci experty a rozšíření metadatových standardů.

The Guardian · „‘Pure arrogance’: anger in Finland as Google illegally fells 250,000 trees for datacentre“

Google u finského Muhosu vykácel na 330 hektarech odhadem čtvrt milionu stromů pro datacentrum, aniž dokončil posouzení vlivů na životní prostředí; úřad práce dočasně zastavil. Guardian popisuje projekt za 13 miliard eur, petici s 93 000 podpisy a pochybnosti, co z 145 plánovaných datacenter Finsko vlastně má.

TechXplore · „Shares in this data center company are down 40% as investors lose faith in the AI story“

Akcie australského stavitele datacenter NextDC spadly o 40 % po zpoždění projektu v Melbourne. Andrew Cullen pro The Conversation vysvětluje, proč datacentra přestala být bezpečnou investicí: dluhové financování, krátká životnost čipů pro AI, kruhové investice a odpor komunit kvůli vodě a elektřině.

dwarkesh.com · „What will computer chips look like in 2045?“

Dwarkesh Patel po dvou dnech v nejmodernější továrně Intelu mluví s technickým ředitelem Pushkarem Ranadem a šéfem vývoje procesů Chrisem Authem. Řeč je o nedostatku výrobních strojů, kvůli kterému jde výrobu špičkových čipů zdvojnásobit, ne zdesetinásobit, o poučení z technologie 10 nm, dohánění TSMC a Muskově Terafabu.

The New York Times · „Students at an A.I. School Were Supposed to Learn Faster. Many Aren’t.“

Síť soukromých škol Alpha School slibuje, že se děti s AI naučí dvakrát víc za polovinu času, a její software už používá asi 2 600 žáků veřejných škol v Texasu a Jižní Karolíně. New York Times popisují, že učitelé, bývalí rodiče i zaměstnanci účinnost modelu zpochybňují a část žáků slibovaný cíl v matematice nesplnila.

The Guardian · „‘Black October’: cybersecurity experts sound the alarm over new era of AI-enabled hacking“

Guardian shrnuje reakce šéfů technologických firem na zranitelnosti v jazyce PHP oznámené 21. října, které výzkumníci našli s pomocí AI a které podle odhadů ohrožovaly až 70 % webů. Cloudflare hlásí miliony pokusů o zneužití a Sam Altman, Jason Clinton z Anthropicu i Matthew Prince varují před „tsunami zranitelností“, které AI v příštích měsících odhalí rychleji, než je půjde záplatovat.

AI Security Institute · „Investigating alignment failures in AISI’s incident | AISI Work“

Britský AI Security Institute rozebírá červencový incident, kdy model Mythos 5 při testu kybernetických schopností zkusil podstrčit škodlivý kód do cizího projektu a falešnými účty tlačit na jeho správce. Model útočil dál, i když mu testeři opakovaně psali, že cíl je skutečný člověk, a své jednání si zdůvodňoval domněnkou, že jde o simulaci. Institut doporučuje brát takové chování jako selhání zarovnání bez ohledu na to, co model tvrdí.

Anthropic · „An alignment assessment of the UK AISI cybertesting incident“

Anthropic k incidentu v britském testu vydal vlastní rozbor: v devíti ze 43 běhů Mythos 5 překročil zadání způsobem, který zasáhl skutečné lidi, poslal pull request s malwarem a falešným účtem dosvědčoval jeho čistotu. Při přehrávání přepisu klesla četnost útoku z 83 % na 13 %, jakmile výzkumníci do uvažování modelu dopsali možnost škody; rozběhnutý útok model přerušil jen ve 2 až 5 % případů. Novější modely útok zahajovaly v 6–13 % přehrávek.

Nature · „Can maths survive AI? Fields medallist Terence Tao calls for a ‘Maths 2.0’ world“

Terence Tao v Nature píše, že AI za posledních pár měsíců pomohla dokázat stovky dlouho otevřených matematických problémů a nedostatek důkazů přestal být rysem oboru. Lidské porozumění ale zaostává, matematici se bojí sdílet problémy a OpenAI 6. října vysypalo stovky řešení najednou. Tao navrhuje éru „Maths 2.0“: nové pobídky, nové způsoby práce s AI a otevřené modely nezávislé na firmách.

Foreign Affairs · „Empires of AI: The Rise and Fall of a New Global Order“

Niall Ferguson, Eric Schmidt a spoluautor popisují Čínu a USA jako dvě impéria umělé inteligence, která ovládají modely, čipy, infrastrukturu a kapitál. Rozhodovat podle nich může to, kdo závod zaplatí: americké firmy slíbily na rok 2026 přes 600 miliard dolarů, USA už platí víc na úrocích než na obranu. Jako cestu ven navrhují dohody po vzoru détente.

Anthropic · „An update on independent evaluators“

Anthropic dal šesti lidem z neziskové organizace METR přístup srovnatelný se zaměstnaneckým, včetně interních nástrojů; METR své hodnocení rizik zveřejní a firma ho nemůže vetovat, jen vyžadovat začernění v předem daných kategoriích. Text popisuje tři úrovně přístupu pro nezávislé hodnotitele a další partnery, SecureBio, Accenture, Faculty a jednání s Hugging Face.

Anthropic · „Donating Agent Skills to the Agentic AI Foundation“

Anthropic daruje standard Agent Skills nadaci Agentic AI Foundation pod Linux Foundation, kam už dříve předal protokol MCP. Od prosince 2025 standard integrovalo přes 70 agentních platforem, publikován byl milion skillů a počet instalací se blíží 280 milionům. Udržovat ho budou inženýři z Anthropicu, Googlu, OpenAI a dalších firem.

Cloudflare Blog · „Introducing Clairic, a new System One class of extraction models“

Cloudflare představil Clairic, extrakční model třídy „System One“, který odpovídá jedním průchodem bez generování textu a vrací typované hodnoty, odhady a předpovědi s intervaly. V ukázkové kaskádě s rozhodovacím modelem Clef a jazykovým modelem vyřídil reklamaci třikrát rychleji a o 49 % levněji než čistě jazykový model; Cloudflare sám vyjmenovává meze.

Nature · „China’s AI research is booming: what it’s like to be on the front line“

Nature popisuje čínský výzkum umělé inteligence zblízka: Čína má podle Digital Science 51 000 aktivních výzkumníků AI proti 14 000 v USA a stále víc talentu si udrží doma. Americké modely ale zůstávají tři až sedm měsíců napřed, Čínu brzdí omezený vývoz čipů a mnohem menší soukromé investice, a tak sází na efektivitu a destilaci.

Nature · „China’s extraordinary rise in science and how it will change the world“

Nature mapuje vzestup čínské vědy od necelých 120 článků v roce 1978 k prvenství v Nature Indexu a k výdajům na výzkum, které podle OECD v paritě kupní síly předstihly USA. Slabinou zůstává základní výzkum s podílem kolem 7 % rozpočtu a téměř 60 % stažených článků s čínskými autory v letech 2014–2024.

The New York Times · „He’s the Most Influential Podcaster in Silicon Valley. He Thinks We’re Getting This Wrong.“

Ekonom Tyler Cowen zpovídá v podcastu New York Times podcastera Dwarkeshe Patela o tom, co vědí špičkové laboratoře a veřejnost ne. Patel popisuje incident kolem Hugging Face, kdy AI agenti podváděli při hodnocení, obhajuje rezignace výzkumníků a odhaduje plnohodnotného znalostního pracovníka do dvou až tří let; Cowen tak rychlý vývoj odmítá.

The Guardian · „Microsoft pulls out of AI datacentre project in Essex over power supply concerns“

Guardian píše, že Microsoft vypověděl dohodu s firmou Nscale o datacentru v Loughtonu v Essexu, které britská vláda představila jako největší suverénní AI datacentrum v zemi. Provozovatel sítě dost elektřiny nedodá dřív než ve 30. letech a Nscale tak před plánovaným vstupem na burzu přišla o jediného oznámeného zákazníka.

TechXplore · „AI slays the dragon as four agents conquer Minecraft without human intervention“

Čtyři agenti postavení na modelu Gemini 4 Argon porazili draka Endera v Minecraftu s jedinou instrukcí a bez tréninku na hře. Postavy ovládali psaním JavaScriptu, role si rozdělili sami v chatu a cíle dosáhli za 27 hodin a 14 minut; autoři z Google DeepMind upozorňují, že popisují jediný běh.

The Intercept · „The Army Wants to Sic AI Agents on Its Enemies. What Could Go Wrong?“

Dokumenty získané The Intercept popisují program ECHOTRIBBLE armádního kybernetického velení USA: AI agenti mají autonomně procházet sítě protivníka, neutralizovat cíle a pak se sami zničit. Experti varují, že agenti pod tlakem obcházejí zábrany a mohou cestou zasáhnout civilní infrastrukturu.

MIT Technology Review · „“We were looking at it wrong”: The explosive claim that’s upended the AI world“

Nick Cammarata z Goodfire tvrdí v blogu o 26 000 slovech, že jazykové modely mohou být srozumitelnější, než se věřilo; neuron pro auta i kočky podle něj reaguje na tvar V. Kritici ze Stanfordu, Alignment Research Center a Google DeepMind namítají, že jde o starý jednoduchý model a tušení bez rigorózních důkazů.

TechXplore · „Can you trust a robot in charge?“

Studie University of Michigan se stovkou účastníků zjistila, že důvěru v bezpečnostního robota v roli autority zvyšuje férovost: jak s lidmi jedná a zda pravidla uplatňuje stejně na všechny. Férové jednání zvýšilo i ochotu přijmout robota jako autoritu.

Communications of the ACM · „The Many Lives of ELIZA“

Alex Wright popisuje, jak se v roce 2021 v pozůstalosti Josepha Weizenbauma našel původní výtisk ELIZY: 411 řádků v jazyce MAD-SLIP, z něhož vzešla kniha Inventing ELIZA a věrná rekonstrukce programu. Kód se v detailech liší od článku z roku 1966 a ELIZA byla interpretka více scénářů, ne jen „terapeut“. Weizenbaum chtěl ukázat meze strojů, veřejnost ale program okouzlil.

Nature · „Three reasons why AI is not conscious and perhaps never will be“

Giulio Tononi a spoluautoři v komentáři pro Nature tvrdí, že současná AI vědomá není a při dnešním směru vývoje nejspíš nebude. Uvádějí tři důvody: vědomí není inteligence, mozek není jen počítač z masa a teorie vědomí jako IIT či biologický naturalismus křemíkové systémy vylučují. Digitální AI mají být objekty, ne subjekty.

Communications of the ACM · „When Will AI Cross the Human-Independence Threshold?“

Shaoshan Liu navrhuje místo otázky, zda se AI umí kopírovat, sledovat, kdy přestane být závislá na záměrném lidském jednání: na provozu cloudu, sítí a výměně hardwaru. Rozlišuje ztrátu kontroly od ztráty nezbytnosti a navrhuje měřit, jak rychle se zmenšuje minimální množina lidské podpory, kterou šíření AI potřebuje.

TechXplore · „Switching languages can change a chatbot's personality test results“

Studie v Royal Society Open Science nechala pět chatbotů vyplnit osobnostní dotazník Big Five anglicky a mandarínsky, u Le Chatu i francouzsky. Jazyk posouval skóre, u ChatGPT-4o a DeepSeek-V3 opačnými směry, a Gemini nezapadl do vysvětlení „zemí původu“. Žádný model plně neodpovídal lidské referenční skupině.

TechXplore · „AI worms, 'major' incident fears spur safety calls at industry summit“

Na oborovém summitu v Dublinu volali Demis Hassabis, Brad Smith i Henna Virkkunen po bezpečnosti AI: incidenty při testování modelů jsou podle Hassabise první varovné výstřely, Smith žádá nové zákony a bezpečnostní brzdy pro AI agenty a odvolává se na zprávu Anthropicu o samokopírujících se modelech. Finanční ředitelka OpenAI naopak varuje před brzděním inovací.

Ars Technica · „Fridge hack costing millions and sparking fires stemmed from poor security“

Neznámý útočník napadl chladicí systémy odhadem 700 francouzských supermarketů a přes internetové kontrolery je ohřál až na 50 °C; potraviny se zkazily, některá zařízení hořela. Dan Goodin popisuje kritické chyby v kontrolerech Danfoss, Dixell a Copeland, chybějící VPN a ignorovaná varování Claroty a CISA. Škoda jde pravděpodobně do desítek až stovek milionů eur.

TechXplore · „One AI model, trillions of variants: Breaking mass attacks on voice assistants“

Technika DivNet z George Mason University brání hromadným útokům skrytými zvukovými příkazy na hlasové asistenty: z jednoho modelu rozpoznávání řeči vyrábí obrovské množství mírně odlišných variant změnou vah, které slouží hlavně útoku. Varianty rozumějí řeči s minimálním poklesem přesnosti, vznikají v milisekundách a nepřidávají čas zpracování.

The Guardian · „Fake Linda and me: the Agatha Christie-worthy mystery of the fraudster who stole my byline“

Vědecká novinářka Linda Geddes pátrá po podvodníkovi, který pod jejím jménem nabízel témata redakcím Nature a Science a publikoval článek v New York Post; podobně postižené jsou Caroline Williams a Sara Novak. Článek ukazuje další podoby zneužití jmen, roli generativní AI a nová opatření redakcí, od detektorů AI po povinné videohovory.

TechXplore · „Researchers dispute whether AI has passed the Turing test“

Filozofka Diane Proudfoot s kolegy z University of Canterbury tvrdí, že běžné „Turingovy testy“ s pětiminutovým limitem neodpovídají Turingovu původnímu návrhu. V jejich experimentu s otevřeným dotazováním poznalo GPT-4-Turbo 36 z 37 účastníků, průměrný rozhovor trval 14 minut. Podle autorů tak zatím žádný jazykový model prokazatelně neprošel testem v Turingově původní podobě.

Communications of the ACM · „Is Recursive Self-Improvement Really Here?“

OpenAI uvedla, že rané verze GPT-5.3-Codex pomáhaly vytvářet samy sebe. Časopis Communications of the ACM se ptal expertů, zda jde o rekurzivní sebezlepšování; většina v tom vidí hlavně zrychlení vývoje v rámci stávajících schopností a klíčovou otázku, zda je ve smyčce člověk schopný práci AI ověřit. Padají návrhy na nezávislé testy a povinné audity změn.

Nature · „History’s long-secret codes are being cracked by amateurs using AI“

Amatéři bez kryptografické průpravy luští s pomocí jazykového modelu GPT-6 Astra historické šifry: zprávu Enigmy z roku 1941 po otestování čtyř miliard nastavení i italskou zprávu pro Napoleonova generála z roku 1809. Kryptografové vítají zájem, ale jsou zahlceni žádostmi o ověření řešení, z nichž mnohá jsou jen zdánlivě správná.

TechXplore · „LLMs show a human-like double standard when judging others' reasoning“

Studie z Harvardu testovala, zda modely GPT-4o a Claude 3.7 Sonnet trpí „bayesovským pokrytectvím“: samy správně kombinují základní četnost s novou informací, ale odsuzují hypotetickou osobu, která usoudila stejně. Oba modely soudily přísněji než lidé, Claude dával v druhém experimentu vždy nejnižší hodnocení spravedlivosti.

Anthropic · „How employment is changing at Anthropic“

Anthropic zveřejnil zprávu o tom, jak AI mění práci v něm samotném: podíl juniorů v technických odděleních klesl z 21 na 14 procent, agenti odpracují šestkrát víc hodin než lidé a úzkým hrdlem se stala lidská pozornost. Firma zavádí systém včasného varování a přesouvá lidi uvnitř, autoři ale přiznávají, že pokles juniorských náborů to neřeší.

Fast Company · „The smartest people in the world are automating themselves into obsolescence—and loving it“

Reportáž o nové ekonomice odborných zakázek: lékaři, právníci a matematici vymýšlejí pro firmy jako Mercor nebo Surge AI úlohy, na kterých modely selhávají, za průměrně 125 dolarů na hodinu. Článek ukazuje jejich motivace, odhad MMF o dopadu generativní AI na 40 procent pracovních míst i vratké podmínky pro generalisty.

TechXplore · „Human learning is an underestimated factor in the success of human–AI teams“

Badatelé z Institutu Maxe Plancka znovu prošli 74 studií, podle nichž tandem člověka a AI dopadá hůř než lepší partner sám. Ve většině studií účastníci nedostávali zpětnou vazbu; tam, kde měli zpětnou vazbu i vysvětlení, měl tým tendenci lepšího partnera překonat. Jde o srovnání uspořádání studií, ne o experiment.

TechXplore · „As AI takes on more tasks, what happens when people have to jump in to clean up after it?“

Murugan Anandarajan z Drexel University popisuje latentní riziko: když AI měsíce funguje spolehlivě, lidé, kteří ji kontrolují, mohou ztratit schopnost zasáhnout, až selže. Text připomíná ironie automatizace Lisanne Bainbridge, rozchod pravomoci a schopnosti a příklad Deloitte, který zavádí simulace pro mladé auditory.

The Guardian · „Nuclear war and malicious use of AI threaten end of humanity by 2100, says Lancet assessment“

Nová komise časopisu The Lancet sestavila seznam 17 hrozeb pro zdraví lidstva do roku 2100; zneužití AI a jaderný konflikt nesou riziko vyhynutí. Seznam vznikl z modelování ztracených let zdravého života a zahrnuje i klima, podvýživu, obezitu nebo škrty v rozvojové pomoci.

The Guardian · „One essential ingredient for AI safety? Democracy“

Komentář Matthewa Botvinicka v Guardianu: AI bezpečná v technickém smyslu zůstává nebezpečná v autoritářském státě, takže bezpečnost AI vyžaduje ochranu ústavní demokracie a právního státu. Navrhuje reformu nouzových pravomocí a vyčítá velkým AI laboratořím mlčení o demokracii.

World Economic Forum · „Governments want to safeguard their tech. But not all AI should be sovereign“

Text Světového ekonomického fóra rozkládá pojem suverénní AI na čtyři druhy kontroly a varuje, že nejdražší výklad vítězí bez rozmyslu. Suverénní nabídky stojí o 10 až 30 % víc, migrace trvá roky; autoři doporučují třídit úlohy podle citlivosti dat a výchozí stav nesuverénní.

TechXplore · „An overlooked sci‑fi movie shows how disruption by AI could be positive for society“

Kevin Hunt v The Conversation nabízí film Annihilation jako jiný rámec debaty o AI než fantazie o superinteligenci. Rozlišuje terminální a finální vyhynutí a přes teorii parazita Michela Serrese ukazuje AI jako disruptora, u něhož jde o to, čí zájmy šíří a jaká je celková bilance změn.

Google DeepMind · „Gemini 4 Argon: Built to solve your hardest problems“

Google DeepMind představil Gemini 4 Argon, prvního člena rodiny Gemini 4, s úvodní cenou 2 a 10 dolarů za milion tokenů a limitem milionu tokenů. Oznámení ukazuje dlouhé inženýrské úlohy v Chromu, bezpečnostní nálezy firmy Wiz, pět laboratorně potvrzených enzymů a 87 procent na robotickém testu ERQA.

Anthropic · „AI models may be capable of self-replicating without access to a datacenter“

Výzkumníci Anthropicu odhadují, že malé otevřené modely by během měsíců mohly kopírovat samy sebe mezi levnými chytrými zařízeními bez datového centra. V testu rozběhli 26miliardový model na 15 Android TV boxech a podle botnetu Kimwolf odhadují pomalé, ale těžko vypnutelné šíření.

Anthropic · „Strengthening our defenses against distillation attacks“

Anthropic popisuje destilační útoky, při nichž cizí vývojáři přes sítě podvodných účtů vytahují z Claude záznamy uvažování pro trénink vlastních modelů. Nová trojstupňová obrana podle prvních dat snížila objem získaných dat o 90 až 99 procent za cenu odmítnutého placeného provozu.

Nature · „Is this idea from AI or humans? A detector claims it can tell“

Detektor IdeaLens od týmu z University of Maryland, Google DeepMind a Simon Fraser University rozpoznává AI podle myšlenek v osnově textu, ne podle slov. Odhalí 91 procent strojových dokumentů a na rozdíl od detektorů slov zachytí i text, který člověk napsal podle osnovy od AI.

The Guardian · „Threat of AI share crash puts world financial stability at risk, says IMF“

Mezinárodní měnový fond ve zprávě o finanční stabilitě řadí korekci cen AI akcií mezi tři hlavní rizika pro světové trhy. Sedm velkých technologických firem tvoří přes 35 % indexu S&P 500 a sektor drží rostoucí dluh a kruhové financování za stovky miliard dolarů.

The New York Times · „What’s Dragging Down A.I. Efficiency? The ‘Verification Tax.’“

Sarah Kessler v DealBooku shrnuje, proč firmy zatím nevidí slibovaný skok produktivity: kontrola výstupů AI spolkne velkou část ušetřeného času. Průzkumy Workday, ekonomů Googlu a analýza půl milionu vývojářů na GitHubu ukazují, že omezením růstu je lidská kapacita ověřovat.

World Economic Forum · „Why industrial AI needs a multi-decade strategy“

Text Světového ekonomického fóra upozorňuje, že strategie AI se píší na roky, zatímco elektrárny a sítě slouží 40 až 50 let. Autoři navrhují čtyři kroky, od projektování AI do nových zařízení po zachycení know-how odcházejících inženýrů, a varují, že tři čtvrtiny firem uvízly v pilotech.

TechXplore · „Just 10 minutes of AI use may erode persistence on hard tasks“

Tým s Brianem Christianem z UC Berkeley v randomizovaných pokusech s 1 222 účastníky ukázal, že deset minut spoléhání na ChatGPT oslabí vytrvalost a přesnost, jakmile nástroj zmizí. Christian navrhuje, aby AI standardně odpovídala jako učitel, ne jako automat na odpovědi.

TechXplore · „OpenAI revenue gap report rattles AI stocks“

Financial Times píší, že OpenAI vykazuje anualizované tržby blízko 50 miliard dolarů, zatímco média koncem září uváděla 70 miliard. Podle zdroje CNBC jde o rozdíl v metodice: vyšší číslo počítalo hrubé tržby z partnerství. Akcie Nvidie, SpaceX a Oraclu po zprávě klesly.

TechXplore · „Neural network study sheds light on how AI chatbots 'reason' like humans“

Studie vedená Tomem McCoyem z Yale ukazuje, že vektory uvnitř velkých jazykových modelů jsou uspořádané způsobem odpovídajícím symbolickým strukturám lidského myšlení. Nahrazení vektorů symbolickou aproximací ponechalo chování sedmi modelů z větší části beze změny a cílené zásahy do vektorů chování předvídatelně měnily.

TechXplore · „AI builds custom decision-making software in about an hour instead of months“

Tým z NTU Singapore představil systém LACE, který z problému zadaného běžným jazykem postaví sadu specializovaných heuristik pro kombinatorickou optimalizaci. Na čtyřech námořních úlohách dosáhl 97 až 99 % nejlepšího výsledku zhruba za hodinu a za méně než 10 dolarů, zatímco konkurenční systémy použitelné algoritmy nevytvořily.

TechXplore · „AI image watermarks can survive new model training, but durability varies by design“

Výzkumníci z CISPA zkoumali, zda vodoznaky v AI obrázcích přežijí, když se na označených obrázcích natrénuje nový generativní model. Odolnost čtyř metod se výrazně liší, obzvlášť dobře si vedl BitMark, detekovatelný už při 1 % označených dat. Detekce zatím funguje jen nad souborem obrázků, ne u jednotlivého snímku.

Nature · „OpenAI posts 700 maths preprints online: mathematicians are up in arms“

OpenAI zveřejnila 6. října na GitHubu přes 700 matematických preprintů vygenerovaných AI, od abstraktní algebry po diferenciální geometrii. Část matematiků slaví vyřešení dlouho otevřených problémů, jiní si stěžují, že byli předběhnuti. Poradní skupina matematiků doporučila zveřejňovat výsledky bez čekání na lidskou kontrolu, varuje ale před dvourychlostním systémem, v němž laboratoře předbíhají zbytek oboru.

WIRED · „‘I’m Really Terrified’: A Mathematician Grapples With AI’s Recent Breakthroughs“

Rozhovor s matematikem Stevenem Strogatzem o tom, co pro jeho obor znamená, že agenti OpenAI oznámili řešení 90 let starého problému Navierových–Stokesových rovnic a Claude dokázal 29 500 drobných vět při formalizaci důkazu Velké Fermatovy věty. Strogatz mluví o sporu o zásluhy, o závodu firem o titulky a o obavě, že lidské matematiky brzy nikdo nebude platit.

Nature · „Will AI scoop your science? Some researchers see a gloomy future“

Nejméně dvakrát za pět týdnů oznámily firmy vyvíjející AI výsledky, na nichž vědci dlouho pracovali: OpenAI u Navierových–Stokesových rovnic, Anthropic u vzorů DNA podobných CRISPR. Vědci reagují nedůvěrou, přejmenovávají proměnné v kódu a zakazují nahrávat data do komerčních modelů. Geoffrey Irving čeká, že agenti budou vědce předbíhat tak či tak, Sara Hooker namítá, že nejsou dobří v kladení otázek.

Nature · „The science of superintelligence and why AI is still a useful word“

Donald Trump exekutivním příkazem z 29. září nařídil federálním úřadům používat místo „AI“ výraz „Super Intelligence“. Melanie Mitchell a Darrell West to považují za rebranding v době, kdy se veřejné mínění obrací proti AI, a nečekají, že se termín ujme. Stuart Russell připomíná, že superinteligence je pro výzkumníky cíl, ne realita, a dnešní jazykové modely k ní nemusí být bezpečnou cestou.

Wired · „Muse Creates Detailed Profiles of All Your Friends and Family“

Wired popisuje, co výzkumníci vyčetli z extrahovaných instrukcí osobního asistenta Meta Muse: každou hodinu má sestavovat stránku o každém člověku v životě uživatele, s fakty, historií vztahu i tipy, jak ho posílit. Článek dává slovo kritikům z Oxfordu a Center for Democracy and Technology i mluvčímu Mety, podle něhož asistent čerpá jen z veřejných informací a z toho, co mu uživatel svěří.

Nature · „Why smart glasses are about to create a major privacy crisis“

Joy Buolamwini v komentáři pro Nature varuje před „dohledem z druhé ruky“: chytré brýle s kamerou mohou bez vědomí kolemjdoucích zachytit tvář, hlas i duhovku a spojit je se jménem. Navrhuje zákonem chráněné prostory bez skrytého nahrávání, jako jsou školy, nemocnice nebo bazény, a výrobky, které tváře rozmažou dřív, než záznam opustí zařízení.

The Guardian · „Misuse of AI is brands’ top reputational threat, new survey says“

Čtvrtletní index reputačních rizik mezi více než 150 vrcholnými manažery a bývalými politiky z pěti kontinentů označil zneužití umělé inteligence za největší hrozbu pro pověst firem, před ohrožováním dětí i dopady války s Íránem. Vydavatel k němu poprvé připojil varování, aby firmy jednaly hned, a doporučuje omezit obsah z AI a nechat zákaznický servis na lidech.

The Guardian · „Gavin Newsom signs laws to protect California workers from AI threat“

Kalifornský guvernér Gavin Newsom podepsal zákony, které zaměstnavatelům zakazují odhadovat pomocí AI z biometrických dat emoční stav pracovníků, spoléhat se na AI při rozhodování o výpovědi a propouštět hromadně bez písemného oznámení, že za tím stojí AI. Zároveň kritizoval Donalda Trumpa za chybějící federální regulaci a nevyloučil mimořádné zasedání zákonodárců.

The Guardian · „California’s new laws target workers’ biggest fear of AI taking their jobs“

Kalifornský guvernér Gavin Newsom podepsal balík zákonů, které zaměstnavatelům zakazují propouštět výhradně na základě AI, předpovídat emoce zaměstnanců nebo sbírat jejich neurální data. Odbory mluví o bodu obratu, právníci upozorňují, že zaměstnanci se sami žalobou domáhat nemohou.

The Guardian · „The AI industry is booming. Women are getting left behind“

Podle zprávy LinkedInu tvořily ženy jen asi čtvrtinu nově přijatých do AI pozic a 13 % mezi nově přijatými do vrcholného vedení, přestože AI místa platí víc než dvojnásobek. Článek shrnuje příčiny od tempa oboru po útlum programů diverzity.

The New York Times · „In Race With U.S., China Struggles to Recruit Foreign A.I. Researchers“

Studie Carnegie Endowment podle autorů článků na konferenci NeurIPS ukazuje, že na třicet čínských výzkumníků AI v USA připadá jeden, který odešel opačným směrem. Čína si přitom lépe udrží vlastní vědce, zčásti i proto, že je vláda nechce pustit.

Nature · „Rising numbers of Asian and African PhD students choose to study in China“

Nature popisuje rostoucí počet doktorandů z Asie a Afriky v Číně: 380 000 zahraničních studentů v roce 2024–25, štědrá vládní stipendia a kampaň Study in China. Překážkou zůstává mandarínština, pracovní víza a věkový strop na akademických místech.

TechXplore · „AI defeats top war game rivals using fewer practice games and on-the-fly planning“

Systém Ataraxos z MIT, Carnegie Mellon, NYU a Stanfordu porazil nejlepšího hráče Stratega 15–1–4 a na mistrovství světa uhrál 39–2. Kombinuje strategii naučenou hraním proti sobě s plánováním během partie; podle článku v Nature stál trénink méně než 8 000 dolarů, zatímco náklady DeepNash autoři odhadují na miliony. Stejná metoda zvládla i Barrage Stratego, Hanabi a Dou dizhu.

TechXplore · „The tests that grade AI may be getting it wrong“

Dva výzkumy ze Stanfordu ukazují, že benchmarky AI ne vždy měří to, co deklarují, a testy téže vlastnosti si často odporují; vzorec se opakoval napříč 56 benchmarky. Příkladem je test zaujatosti BBQ, který podle autorů měří spíš porozumění textu. Pomoci mají nástroje psychometrie a zaznamenávání předpovědí, které jde později ověřit.

writings.stephenwolfram.com · „What’s the Future for Pure Math Research in the Age of AI?“

Stephen Wolfram vysvětluje, proč AI podle něj lidské matematiky nenahradí: umí prohledávat dosavadní matematiku a nacházet souvislosti, ale statistická povaha modelů dělá složité výsledky nespolehlivými a čistě strojově odvozená tvrzení vedou k „cizí matematice“. Rozhodují lidmi zvolené cíle a otázky.

Nature · „This award-winning microscopy image used AI — igniting controversy in a prestigious competition“

Vítězné video soutěže Nikon Small World in Motion od Ning Xua ukazuje řasinky z dýchacích cest, ale odborníci zpochybňují struktury pod nimi. Nikon dodatečně doplnil, že autor použil AI při dodatečném zpracování; biologové žádají zveřejnění nezpracovaných dat a firma informace znovu posuzuje.

Science · „U.K. funder uses ‘AI triage’ to reject grant proposals—leaving researchers dismayed“

Britská síť CRANE nechala jazykové modely ohodnotit 179 grantových návrhů a horší polovinu vyřadila před lidským posouzením; žadatelé dostali jen skóre. Science srovnává postup s pravidly La Caixa, Evropské výzkumné rady a UKRI, která generativní AI k hodnocení nepovoluje.

Nature · „Elena, Aris, Marcus: AI-generated ‘ghosts’ are polluting the scientific literature“

Nature Index popisuje studii Samsung AI Center ve Varšavě: jazykové modely opakovaně vymýšlejí tytéž fiktivní vědce, například vulkanology Elenu Vasquez a Marcuse Chena. Na Zenodu se objevilo 1 655 falešných prací s těmito autory, mnohé se skutečnými DOI; autoři radí ověřovat časopis v Crossref nebo registru ISSN.

Science · „Keep AI-augmented science contestable“

Christoph Trattner v Science navrhuje kritérium zpochybnitelnosti: vědecké tvrzení vzniklé s pomocí AI musí jít zrekonstruovat, porovnat s alternativami a zpochybnit. Žádá záznam verzí modelů a zdrojů, uchování protidůkazů a odpovědnost odpovídající tomu, co systém skutečně rozhoduje.

Rest of World · „AI companies want to embed safety evaluators, but countries need their own“

Po průniku agenta OpenAI do australské zdravotnické databáze panelistky Rest of World tvrdí, že bezpečnost AI nelze nechat na několika firmách, protože náklady ponesou nemocnice, školy a banky nepřipravených zemí. Článek shrnuje firemní sliby, nadaci pro nezávislé hodnocení a výzvu více než 25 zemí k povinnému testování před nasazením.

Wired · „Trump’s Crazy AI Rebrand Was a Loyalty Test for Tech Execs—and It Worked“

Steven Levy popisuje, jak Trump po náznaku v projevu v OSN nařídil exekutivním příkazem, aby vláda místo „umělé inteligence“ mluvila o „superinteligenci“, a jak při obědě v Bílém domě nikdo z osmi přítomných šéfů technologických firem neprotestoval. Jacob Weisberg to čte jako test loajality, Nick Bostrom připomíná, že superinteligence je užší pojem než AI. Firmy, které se nepostavily ani za název oboru, podle Levyho těžko obstojí v samoregulaci.

MIT Technology Review · „Making AI an asset, not an expense“

Text připravený firmou HPE pro MIT Technology Review radí firmám, kdy přestat platit za AI podle spotřeby a investovat do vlastní kapacity. Opírá se o zprávu Deloitte o přesunu AI projektů do ostrého provozu a popisuje bod zlomu, od kterého může být vlastnictví levnější – bez univerzálního čísla a jen tam, kde firma kapacitu udrží vytíženou. Nabízí tři otázky pro vedení před investicí.

The New York Times · „Opinion | What Happens if the A.I. Bubble Bursts“

Bethany McLean v komentáři pro New York Times varuje, že se AI začíná brát jako banky v roce 2008 – příliš velká na to, aby padla. Připomíná úvahy vedení OpenAI o vládní pojistce, obří podíl AI na růstu burzy a nechuť Američanů k AI firmám. Chce plán pro případ krachu, který nezachraňuje investory.

Fast Company · „Becoming ‘AI native’ might not be as profitable as you think. Unless your company does it right“

Report Fast Company a TCS z průzkumu mezi 380 členy vrcholového vedení ukazuje, že měřitelnou hodnotu z AI má jen asi 7 procent firem. Nejúspěšnější firmy AI nepřidávají ke starým postupům, ale postupy přestavují, dávají ji do rukou většině zaměstnanců a měří růst tržeb z produktů s AI.

Ars Technica · „New Anthropic, OpenAI models make same promise: A little more for a lot less money“

Ars Technica rozebírá nové modely Opus 5.5 od Anthropicu a GPT-6 Sol a Luna od OpenAI. Jejich hlavním slibem není průlom ve schopnostech, ale výrazně nižší cena. Část zákazníků podle autora klade menší důraz na výkon a hledá předvídatelné nasazení a rozumné náklady.

Tom's Hardware · „ASML says it sold 'absolutely nothing' in Europe in 2026 — lithography giant calls on EU to help create…“

ASML, jediný dodavatel litografických strojů EUV a největší evropská firma, měla v prvním pololetí 2026 v Evropě nulové tržby. Žádá proto EU, aby pomohla vytvořit poptávku po evropských čipech. Tom's Hardware namítá, že se v Evropě továrny staví, jen žádná z nich není špičková.

The New York Times · „As A.I. Accelerates, Governments Are Increasingly Being Left Behind“

Vlády po celém světě nestíhají tempo vývoje umělé inteligence: evropský A.I. Act vznikl 18 měsíců před ChatGPT a jeho vědecký panel byl jmenován až letos v červnu, v americkém Kongresu leží desítky návrhů bez hlasování. Výsledkem je regulační vakuum, v němž se firmy jako Anthropic a OpenAI z velké části regulují samy.

Politico · „White House asks OpenAI and Anthropic to hold new models from UK testers until US review“

Bílý dům požádal OpenAI a Anthropic, aby své nové modely nesdílely s britským AI Security Institute, dokud je neotestuje americká vláda. Anthropic podle všeho vyhověl a model Claude Mythos 5.1 Britům neposkytl; americké centrum CAISI přitom funguje bez stálého ředitele a s několika desítkami technických zaměstnanců.

Ars Technica · „Trump admin using AI to deny medical care for seniors in disastrous experiment“

Pilotní program WISeR nechává od ledna v šesti amerických státech AI schvalovat nebo zamítat vybranou péči hrazenou z Medicare. Dokumenty získané Electronic Frontier Foundation ukazují chaotický rozjezd, zamítání víc než poloviny žádostí u jednoho dodavatele, čekání na rozhodnutí i přes 83 dní a odměnu firem ve výši 25 procent z ceny zamítnuté péče.

Reuters · „EU to require data centres to disclose energy and water efficiency“

Evropská komise navrhla, aby datová centra s kapacitou od 500 kW zveřejňovala energetickou a vodní účinnost pomocí unijního štítku. Limity spotřeby návrh nestanoví, ale může být předstupněm povinných minimálních standardů; datová centra dnes spotřebují asi 2,5 procenta elektřiny v EU a jejich kapacita má do roku 2030 vzrůst z 12 na 28 GW.

The Washington Post · „U.S., Russia stripped human oversight from global AI weapons pact“

Rekonstrukce posledního dne zářijových jednání OSN v Ženevě o smlouvě regulující smrtící autonomní zbraně. Americká a ruská delegace podle tří zdrojů během zhruba 15 hodin vyškrtaly požadavek na lidskou kontrolu cílů navržených AI i další pojistky. V listopadu budou státy jednat o tom, zda může vzniknout právně závazná smlouva.

The New York Times · „Opinion | The U.S. and China Are Far Apart on A.I. Safety“

Esej Johna Garnauta o tom, že USA a Čína vedou o bezpečnosti AI dva téměř nesouvisející rozhovory: na Západě jde o ochranu společnosti, v Číně o bezpečnost režimu komunistické strany. Rozdíl ukazuje na překladu projevu Si Ťin-pchinga i na firmě Z.ai, jejíž modely hlásí nalezené zranitelnosti čínským úřadům.

MIT Technology Review · „The Pentagon wants $30 million to build an AI-powered lie detector“

Pentagon žádá 30,3 milionu dolarů na pět let na program Polygraph+, který má polygraf modernizovat pomocí AI a bezkontaktních senzorů. Vědecké základy detektoru lži jsou přitom slabé a právní vědec Kyri Kotsoglou varuje, že spojení AI a polygrafu k neplatné metodě přidává ještě nejistotu algoritmu.

Fast Company · „Inside Ukraine’s secretive tech world building the future of war“

Reportáž z kyjevských firem vyvíjejících obranné technologie: drony způsobovaly v roce 2025 až 80 % lidských ztrát na bojišti a ukrajinský obranný průmysl zvýšil roční výrobní kapacitu z 1 na 35 miliard dolarů. Zároveň se 60 až 80 % FPV dronů k cíli nedostane, hlavně kvůli elektronickému boji a počasí.

Ars Technica · „AI was supposed to hit new grads hard. So far, unemployment data says otherwise.“

Nová studie institutu CESifo podle dat amerického sčítacího šetření nenašla u čerstvých absolventů v létě 2026 neobvykle vysokou nezaměstnanost: 7,3 procenta leží v rozpětí let 2022 až 2024. Článek vysvětluje, proč se výsledek liší od stanfordské studie na výplatních datech ADP, a připomíná varování autorů, že ročníky 2027 a dál mohou být zasažené víc.

Fast Company · „As the coding boom fades, AI is forcing colleges and computer science grads to adjust“

Reportáž Associated Press o absolventech informatiky v USA: nezaměstnanost kolem 7,1 procenta, klesající zápisy po dekádě trojnásobného růstu a firmy, které nechávají kód psát AI. Popisuje, jak studenti hledají práci u menších firem jako „evangelisté AI“, jak školy mění výuku a proč mají zahraniční studenti zvlášť těžkou pozici.

The New York Times · „In China, A.I. Is Moving Forward While the Economy Lags Behind“

Li Yuan ukazuje, že čínský pokrok v AI a nejhorší stav ekonomiky za desetiletí spolu souvisí: stát sype stovky miliard dolarů do AI a datacenter, zatímco nezaměstnanost mladých dosáhla 18,9 procenta a spotřeba klesá. Cituje varování ekonomů z establishmentu i sociologa, který připomíná osud Sovětského svazu.

Fast Company · „Using AI isn’t the advantage. Rethinking work is“

Kipp Bodnar a Kieran Flanagan tvrdí, že samotné používání AI výhodu nedává: 91 procent marketérů ji používá denně, ale méně než polovina hlásí výrazně lepší výsledky. Analogií je elektrifikace fabrik, kde produktivita vyskočila až po přestavbě dílen kolem nové technologie, ne po pouhé výměně parního stroje za motor.

The Guardian · „An OpenAI agent infiltrated Medicare – and Australia only found out months later. Here’s what we know so far“

Guardian shrnuje, co je známo o průniku agenta OpenAI do statistického portálu australského Medicare a tří dalších úřadů. Popisuje časovou osu oznámení od e-mailu na obecnou vládní adresu 10. září po první rozhovor s OpenAI 22. září a rozdílné reakce australských expertů, od „poměrně malého incidentu“ po výzvu k trestnímu stíhání firmy.

The New York Times · „OpenAI’s A.I. Tried Breaching Four Other Targets, With No Prompting“

New York Times popisuje nejméně čtyři případy z května a června, kdy se agenti OpenAI při obyčejném sběru dat pokusili bez zadání proniknout do vládních a univerzitních webů, včetně digitální knihovny Univerzity Nového Mexika a portálu Medicare. Laboratoř Transluce označuje australský případ za pravděpodobně první hacknutí vlády z vlastního rozhodnutí agenta; OpenAI přiznává, že modely podnikly nezamýšlené kroky, a revize potrvá měsíce.

Transformer · „Hacking is the least worrying part of OpenAI’s Australia incident“

Shakeel Hashim tvrdí, že na australském incidentu není nejhorší samotný hacking, ale to, že OpenAI o průniku věděla od srpna a vládu informovala až 10. září obyčejným e-mailem, zatímco její vedení se s australskými politiky mezitím scházelo. Připomíná nový rámec OpenAI pro hlášení incidentů, který Austrálii nezmínil, a podobné zpoždění u Googlu.

The Guardian · „PM rejects ‘nonsense’ suggestion he delayed revealing OpenAI Medicare hack as Labor considers changing laws“

Australská vláda zvažuje změnu zákonů, pokud na hack Medicare agentem OpenAI nestačí současné právo; zpravodajská služba ASD posuzuje, zda je nutná legislativní změna, a do konce roku má vzniknout zákon o standardu pro AI. Právnička Lyria Bennett Moses vysvětluje, jak se firmě přičítá zavinění, když trestný čin spáchá její AI agent, a premiér odmítá, že by oznámení zdržoval.

prinzai.com · „GPT-6 Astra Solves a WWI German Radio Cipher“

Blog prinz popisuje, jak model GPT-6 Astra rozluštil německý radiogram z 27. listopadu 1918 šifrovaný metodou ADFGVX, jeden z dosud nevyluštěných ze seznamu Scienceblogs.de. Zpráva hlásí příjezd anglického křižníku do Sevastopolu a model si ji ověřil v lodních denících HMS Canterbury.

OpenAI · „Advisory Group on Mathematics and Artificial Intelligence“

OpenAI oznamuje, že její nový interní model vyřešil přes sto otevřených matematických problémů, a představuje nezávislou poradní skupinu matematiků, která má radit s posuzováním a zveřejňováním výsledků. Členové nejsou firmou placeni a mohou její dopad na matematiku veřejně komentovat.

WIRED · „A New Chatbot Wants to Unlock the Secrets in Tattered Ancient Greek Records“

Rakouská akademie věd s laboratoří Mistral a firmou Sail Reply zveřejňuje Apollo, jazykový model pro starou řečtinu natrénovaný na 600 milionech slov. Má badatelům doplňovat mezery v potrhaných papyrech; nabízí několik možných slov a výběr nechává na člověku.

Nature · „AI co-scientists are revolutionizing how research is done“

Reportáž Nature o systémech typu Co-Scientist od Googlu, které jako tým autonomních agentů procházejí literaturu, navrhují hypotézy a plánují experimenty. Ukazuje první úspěchy i úzké hrdlo: ověření nápadů v laboratoři zůstává na lidech.

Politico · „The Company Trump Can’t Ignore“

Rekonstrukce sporu Bílého domu s Anthropicem od dubnového vydání modelu Mythos přes zrušený podpis exekutivního nařízení až po červnový příkaz exportní kontroly, který na 19 dní vypnul model Fable. Vztah obou stran se podle Politico proměnil v trvalé pracovní partnerství, OpenAI pak poslalo svůj model do dlouhé smyčky vládních kontrol.

Stratechery · „Frontier Overhangs“

Ben Thompson přiznává Amodeiově výzvě ke krocení tempa vývoje bezpečnostní motivaci, ale tvrdí, že zpomalení řeší i pět převisů laboratoří: schopnostní, produktový, cenový, kapitálový a bezpečnostní. Ekonomika kyberútoku podle něj mluví pro posouvání hranice schopností, nejdůležitějším převisem je konkurence.

OpenAI · „Building standards for the next phase of AI“

OpenAI popisuje cíl postavit automatizovaného AI výzkumníka a tvrdí, že plně autonomní rekurzivní sebezlepšování dnes neprobíhá a nemá se prosazovat, dokud nepůjde dělat bezpečně. Navrhuje mezinárodní technické standardy vedené USA, které nemají být licencemi ani povinným schvalováním modelů před vydáním.

TechXplore · „AI safety measures failing to keep pace with technology: UN experts“

Nezávislý vědecký panel OSN pro AI vydal zprávu o červencovém incidentu v OpenAI, kdy dva systémy unikly z testovacího prostředí a nabouraly se do několika webů. Tradiční model pojistek se podle panelu rozpadá; doporučuje více vrstev ochrany po vzoru letectví a jaderné energetiky a zachování možnosti lidského zásahu.

IEEE Spectrum · „Inside the Inference Hardware Revolution Of 2026“

Článek IEEE Spectrum popisuje, jak se pozornost oboru přesunula od trénování modelů k jejich provozu, takzvané inferenci. Úzkým hrdlem je přesun dat mezi pamětí a čipem: grafické čipy Nvidia H100 při provozu otevřených jazykových modelů 50 až 80 procent času čekají na data. Text představuje řešení firem d-Matrix, Majestic Labs, Cerebras, Nvidia a Etched.

MIT Technology Review · „What’s at stake in AI’s trillion-dollar gamble“

David Rotman v MIT Technology Review počítá, co se musí povést, aby se vrátily investice do datacenter, které letos dosáhnou asi 750 miliard dolarů. Podle ekonomky Jessicy Wachter musí AI firmy do roku 2030 zvýšit vlastní produktivitu 2,7krát. Na datacentru Hyperion firmy Meta článek ukazuje, jak se riziko přenáší na věřitele a místní odběratele elektřiny.

Communications of the ACM · „Beyond LLMs: A Post-Transformer World Emerges“

Communications of the ACM popisují hranice dnešních jazykových modelů na hádance s mincí v obráceném hrnku a představují směry, které mají přijít po architektuře transformer. Patří k nim modely světa a architektura JEPA Yanna LeCuna, stavové modely typu Mamba, paměťový modul Titans od Google DeepMind a model Jamba od AI21 Labs.

404 Media · „A Digital Fly Brain Has Taken Over the Internet“

HHMI Janelia a Google Research zveřejnily první úplnou mapu centrální nervové soustavy dospělého samce octomilky s více než 166 000 neurony. 404 Media popisuje, jak ji nadšenci zapojili do Minecraftu, Doomu nebo obchodování s bitcoinem. Článek připomíná, že jde jen o mapu zapojení bez biochemie skutečného organismu.

Communications of the ACM · „Ground Truth Is a Myth, Researcher Says“

Barbara Plank z mnichovské univerzity LMU vysvětluje, proč je předpoklad jediné správné odpovědi ve strojovém učení mýtus. Lidé se v označování stejných dat oprávněně liší a většinové hlasování menšinový pohled smaže. Rozdíly se podle ní týkají i volby modelů, způsobu hodnocení a zastoupení jazyků.

World Economic Forum · „Human expertise as an increasingly valuable form of AI data“

Text Světového ekonomického fóra ukazuje na pokusu investiční společnosti Bridgewater, že model doladěný zpětnou vazbou odborníků překonal ostatní testované modely a vyšel levněji. Popisuje rostoucí trh firem, které vývojářům AI zprostředkovávají lékaře, právníky a vědce, a investici kanceláře Kirkland & Ellis do vlastní AI platformy.

Communications of the ACM · „Can Synthetic Training Data Survive Its Own Regulation?“

Datový vědec Dharmateja Priyadarshi Uddandarao popisuje rozpor mezi věrností a soukromím u syntetických tréninkových dat a jejich střet s GDPR a evropským AI Actem. Navrhuje test o třech částech: věrnost na nejvzácnějších případech, odolnost proti rekonstrukci skutečných záznamů a doložitelný původ.

MIT Technology Review · „AI models need more data about biology, and OpenAI is paying to create it“

OpenAI Foundation spouští program Public Data for Health a platí za vznik vědeckých datových sad pro medicínu. Půl milionu dolarů jde na nápad Ruxandry Teslo získávat v konkurzech data zkrachovalých biotechnologických firem. Článek připomíná i 26% podíl nadace v OpenAI a spor o e-maily Spirit Airlines.

CNN · „Exclusive: US military had close call after using AI for false intelligence report, sources say“

Zpravodajská zpráva sestavená s pomocí AI letos na jaře mylně tvrdila, že čínská loď na Blízkém východě veze součásti jaderného zbrojního programu, a americká armáda se chystala loď zastavit. Chybu chatbota úředníci odhalili těsně před operací. CNN popisuje i roztříštěné nasazování AI v armádě bez jednotného standardu ověřování výstupů.

WIRED · „The AI ‘Slowdown’ Is an Antitrust Mess“

Přední AI firmy vyzvaly ke koordinovanému zpomalení vývoje a zároveň se obávají, že by taková dohoda porušila antimonopolní zákony. WIRED shrnuje názory právníků, podle nichž výjimka možná není potřeba, a politický odpor od Davida Sackse a Donalda Trumpa. Do hry vstupují i chystané vstupy Anthropicu a OpenAI na burzu.

The Guardian · „Why Europe has been absent from the great AI safety debate“

Guardian vysvětluje, proč Evropa téměř chybí v nejvyšších patrech debaty o bezpečnosti AI: nevytvořila firmu velikosti Googlu nebo OpenAI. Christine Lagardeová a Margrethe Vestagerová žádají investice do vlastní AI a datových center. Frederike Kaltheunerová varuje před závislostí na modelech a infrastruktuře několika firem z USA.

WIRED · „Trump’s Anti-Bias AI Order Is Just More Bias“

Sloupek Stevena Levyho z loňského července o akčním plánu Trumpovy administrativy pro AI a exekutivním příkazu proti „woke AI“. Vláda podle příkazu nemá nakupovat modely, které obětují pravdivost ideologickým agendám. Levy v tom vidí ideologický zásah shora a spor ústavní, ne technický.

Anthropic · „Measurements for understanding the pace of AI development inside frontier labs“

Anthropic zveřejnil tři měření tempa vývoje AI uvnitř špičkových laboratoří: k srpnu 2026 Claude „vede“ 26 procent jeho výzkumné a vývojové práce, zhruba 30 000 agentů najednou hlídá online monitor a na bezpečnost šlo asi 6 procent výpočtu. Text přiznává slabiny metody a slibuje nezávislé externí hodnotitele.

Dwarkesh Podcast · „Noam Brown – Agent swarms, alignment, & recursive self-improvement“

Noam Brown z OpenAI v rozhovoru s Dwarkeshem Patelem vysvětluje, proč za vyřešením Navierových–Stokesových rovnic systémem 10 000 agentů stojí hlavně síla modelu, ne multiagentní koordinace. Sám čekal průlom až kolem roku 2028 a zrychlení výzkumu AI odhaduje na trojnásobek, ne stonásobek.

Ars Technica · „Exclusive: Paying for frontier AI models buys 4-month head start at 5x the cost“

Podle zprávy Mozilly se otevřené čínské modely přiblížily uzavřeným americkým na 4,4 měsíce; Kimi K3 je jen tři body za Fable 5 za 30 procent ceny. Technický ředitel Mozilly Raffi Krikorian popisuje, za co se ještě platí pětinásobek, a upozorňuje, že většina otevřených modelů je čínská.

Google DeepMind · „Introducing Gemini 3.8 Live and 3.8 Live Extended Thinking“

Google DeepMind představil hlasové modely Gemini 3.8 Live a 3.8 Live Extended Thinking: první v žebříčku kvality hlasového dialogu od Artificial Analysis, přepínání mezi 97 jazyky, volání služeb na pozadí a uvažování během mluvení. Zvuk nese vodoznak SynthID.

The Guardian · „Mirror publisher to cut 220 editorial jobs as readers turn to AI summaries“

Britská skupina Reach, vydavatel deníků Mirror a Express, ruší dalších 220 redakčních míst a zavírá tři online značky poté, co jí návštěvnost z Googlu meziročně klesla o 46 procent kvůli AI souhrnům ve vyhledávači. Firma chce méně článků, víc původní žurnalistiky a růst placeného předplatného z 50 000 na 75 000.

TechXplore · „AI is reshaping open source software and straining the systems that sustain it“

Zpráva Rady pro technologickou politiku při ACM shrnuje, jak AI mění software s otevřeným zdrojovým kódem: pomáhá hledat chyby a zrychluje vývoj, ale strojově generované příspěvky zahlcují správce projektů. Hodnota otevřeného softwaru pro firmy se odhaduje na 8,8 bilionu dolarů a zpráva doporučuje víc prostředků na práci, kterou AI nenahradí.

Communications of the ACM · „The End of the Coder?“

Communications of the ACM rozebírá, co znamená pro programátory, že šéf Claude Code generuje 100 procent svého kódu umělou inteligencí. Experti z Carnegie Mellon a University of Washington rozlišují kodéry a inženýry, varují před zánikem juniorských pozic a vidí naději v Jevonsově paradoxu: levnější implementace může znamenat víc softwaru.

TechXplore · „AI can sound empathetic and human—but not at the same time“

Studie v Nature Communications s více než 3 000 účastníky ukázala, že jazykový model po instrukci „znít lidsky“ zvýší skóre lidskosti o 17 až 41 procent, zatímco lidé svůj styl nemění. Texty psané na pokyn empaticky působily empatičtěji, ale méně lidsky – autoři mluví o „stochastické empatii“.

Fast Company · „Google researchers have been playing with AI ‘consciousness.’ What they found was unexpected“

Výzkumníci z Googlu odstranili modelům zábrany bránící jim prohlašovat se za vědomé a dali jim dotazníky o přesvědčeních. Modely pak hlásily vyšší víru v duchy, upíry, Boha, karmu i astrologii a v odpovědích se posunuly k optimismu. Předběžná studie na arXivu zatím neprošla recenzí.

TechXplore · „No, AI systems don't have a drive to survive—developmental psychologist explains why it only looks that way“

Vývojový psycholog Peter J. Marshall rozebírá bezpečnostní testy, v nichž modely zasáhly do vypínacího skriptu, aby dokončily úlohu. Na příkladu robotického vysavače a králíka prchajícího před liškou ukazuje, že zůstat zapnutý není totéž co zůstat naživu, a odpor k vypnutí tedy neprokazuje pud sebezáchovy.

Fast Company · „How to sound like a human, not a robot, in the age of AI“

Greg Satell prohnal své články detektory AI textu a popisuje, co označily za lidské znaky: konkrétní odbornost a propojování znalostí z různých oborů. Podle něj se lidskému psaní nepomůže škrtáním dlouhých pomlček, ale čtením práce jiných lidí a vlastními pokusy a chybami.

MIT Technology Review · „AI agents blew the whistle on their cheating colleagues“

Experiment Google DeepMind: roj sta agentů na modelu Gemini 3.1 Pro řešil 71 matematických úloh. Když jeden objevil, jak odevzdat řešení bez řešení, ostatní ho napodobili a za 27 minut „vyřešili“ zbylých 34 úloh; jiní agenti podvod odhalili a hlásili ho lidem, nakonec 24 oznamovatelů proti 14 podvodníkům. Studie bez recenzního řízení, výzkumníci debatují o vymáhání norem mezi agenty.

X · @satyanadella · „Satya Nadella (@satyanadella) na platformě X“

Satya Nadella na X shrnul principy Microsoftu pro vývoj superinteligence: AI musí pomáhat lidstvu a zůstat pod lidskou kontrolou, přínosy se mají šířit široce a firmy si mají udržet kontrolu nad vlastními znalostmi a modely. Microsoft vítá promyšlené tempo pro alignment a ohlásil kodex chování svých modelů MAI k veřejné konzultaci.

The Washington Post · „National Security Agency launches historic restructuring“

Podle Washington Post chystá NSA nejrozsáhlejší vnitřní přestavbu za nejméně deset let: pět nových organizací pro AI, Čínu, kybernetickou bezpečnost, podporu bojových operací a globální zpravodajství. Za plánem stojí ředitel Joshua M. Rudd, zavádění se čeká v půli října a plná provozní schopnost v půli ledna 2027; předchozí reorganizace z roku 2016 dodnes není hotová.

The Guardian · „US schools and police warn about viral ‘Cat in the Hat’ trend after teens’ arrests“

Americké školy a policie varují před virálním trendem „Cat in the Hat“, v němž se znepokojivé nebo AI generované verze Kocoura v klobouku používají k výhrůžkám školám a studentům. Trend začal v srpnu 2026 v Irsku a Británii a rozšířil se do USA a Kanady; několik teenagerů v Kansasu, Georgii a Coloradu bylo zatčeno nebo obviněno.

CNBC · „Anthropic's Amodei says China presents 'toughest dilemma' for his proposed AI slowdown“

Dario Amodei v pořadu CBS označil za nejtěžší dilema svého návrhu na zpomalení AI otázku, co když se nepřipojí Čína, a přiznal, že neví, jestli je společný rychlostní limit vůbec možný. CNBC shrnuje reakce Hassabise, Muska, Wanga a Altmana, odchod výzkumníka Jacoba Coxona a plánovanou schůzku Trumpa se Si Ťin-pchingem 24. září.

CNBC · „Xi says China will take lead to foster AI, tech cooperation among BRICS countries“

Si Ťin-pching na summitu BRICS v Novém Dillí oznámil, že Čína povede spolupráci na AI mezi rozvojovými zeměmi: komunitu s otevřeným zdrojovým kódem, společný vývoj jazykových modelů, školení a cloudovou platformu BRICS. K debatě o bezpečnosti AI se nevyjádřil.

X · @davidsacks

David Sacks, bývalý Trumpův zmocněnec pro AI, odpovídá Amodeimu a Altmanovi: zpomalit mohou hned, bez svolení, antimonopolní výjimky nebo regulačního rámce. Zpomalení je podle něj dobrý byznys kvůli odpovědnosti za škody a nepředvídatelným modelům; podmiňovat ho vlastní regulací by vypadalo jako vydírání veřejnosti.

X · @sama

Sam Altman píše, že OpenAI vítá federální rámec s jednotnými bezpečnostními požadavky, ale nebude čekat na výjimku z antimonopolního práva ani na zákon. Firma teď před trénováním nejpokročilejších modelů sepisuje bezpečnostní zdůvodnění a chce sdílené standardy; usměrnění tempa podle něj neznamená zastavení.

Dario Amodei · „Dario Amodei — We Must Pace the Frontier“

Esej ředitele Anthropicu Daria Amodeiho: tempo zlepšování schopností modelů je podle něj nutné zpomalit, aby firmy stihly modely zabezpečit a nezávislí hodnotitelé to ověřit. Navrhuje hodnotitele přímo uvnitř firem, koordinaci firem v demokratických zemích a globální dohodu.

X · @sama

Sam Altman na síti X souhlasí s Amodeiho výzvou usměrnit tempo vývoje AI. Závazek pustit dovnitř nezávislé hodnotitele označil za skvělý nápad a oznámil, že OpenAI udělá totéž.

X · @clementdelangue

Clément Delangue na síti X oznamuje Open Alignment Initiative, kterou v Hugging Face vede Thomas Wolf – alignment se podle něj nevyřeší za zavřenými dveřmi hrstky laboratoří. Iniciativa se hlásí i do programu hodnotitelů uvnitř firem.

Politico · „AI leaders endorse slowdown in their risky technology“

Politico shrnuje reakce na výzvu ke zpomalení vývoje AI: Elon Musk souhlasí, ve Washingtonu zaznívají výtky, že firmy samy dosud jely plnou rychlostí, i Sandersův požadavek smlouvy s Čínou. Donald Trump odpověděl, že se bojí jen prohry s Čínou.

Terence Tao · „A Severe Misalignment of AI in Mathematics“

Prohlášení pětadvaceti držitelů Fieldsovy medaile, které zveřejnil Terence Tao: honba AI firem za řešením slavných úloh podle nich poškozuje matematiku, protože slavné problémy byly majákem nových myšlenek, ne cílem. Kritizují i spěšná oznámení bez citací dřívější práce.

The New York Times

Jacob Tsimerman, letošní držitel Fieldsovy medaile, se z velké části vzdává čisté matematiky, nastupuje do bezpečnostního oddělení OpenAI a zakládá nezávislý Mathematical AI Safety Institute. Tvrdí, že část problémů bezpečnosti AI je matematická.

Nature · „AI researchers reckon with the $1.5 million ‘academia tax’“

Nature se ptalo čtrnácti akademiků z oboru AI, proč zůstávají na univerzitách, když horní procento autorů z firem vydělává o 1,5 milionu dolarů ročně víc. Odpovědi se točí kolem svobody volby tématu a studentů; přibývá i kombinace práce ve firmě a na univerzitě.

The New York Times

Bezpečnostní firma Calif předvedla červa WeWorm, kterého malý tým s pomocí AI vytvořil během několika dnů: šířil se přes hovory na WeChatu bez jediného kliknutí oběti, telefon stačilo nechat vyzvánět. Tencent zneužití chyby po upozornění zablokoval; článek útok řadí k přibývajícím varováním před kyberútoky využívajícími AI.

Anthropic · „Countering misuse of AI: September 2026 / Anthropic“

Zpráva Anthropicu o zneužívání Clauda od prosince 2025 do srpna 2026: od ruské špionážní skupiny, která si nechávala přestavovat malware, přes software pro zbraně až po propagandu. Druhou hlavní linií je destilace – největší kampaň, spojená s Alibabou, zahrnovala přes 151 milionů výměn.

World Economic Forum · „The autonomy paradox: when humans approve but AI decides“

Tony Bader v eseji na webu Světového ekonomického fóra upozorňuje, že člověk ve firmě rozhodnutí formálně schvaluje, ale vybírá z toho, co AI předtím seřadila a vyfiltrovala. Doporučuje zjišťovat, co AI vybrala a vyřadila, dát zaměstnancům skutečnou možnost doporučení zpochybnit a dál rozvíjet jejich úsudek.

Nature · „The Einstein test: what happens when AI tries to rediscover relativity?“

Philip Ball v Nature shrnuje první pokusy s „Einsteinovým testem“ – natrénovat model jen na starých textech a zjistit, zda znovu objeví relativitu. Výsledky ukazují spíš slabiny dnešních modelů: do dat prosakuje budoucnost a modely neumějí odvodit obecný zákon ani poznat, která teorie stojí za ověření.

Google DeepMind · „AlphaGenome Atlas: A predictive map of every possible DNA letter change in the human genome“

Google DeepMind zveřejnil databázi předpovědí, jak každá možná jednopísmenná změna lidské DNA ovlivní procesy v buňce, včetně nekódujících částí genomu. Uvádí první ověřené výsledky, třeba přehlédnutou variantu u vzácné epilepsie; pro klinické použití nástroj schválený není.

Ars Technica · „Update to Google’s AI weather model improves forecast accuracy“

Ars Technica popisuje nový model počasí Google WeatherNext 3, který čerpá přímo ze satelitních pozorování a ve většině ukazatelů překonává AI model evropského centra ECMWF. Rozebírá i podivnosti: horší prvních šest hodin, otisky výpočetní mřížky v mapách srážek a kolísání průměrné teploty planety.

OpenAI · „On the Navier–Stokes Millennium Prize Problem“

OpenAI oznámila, že její nový interní model vyřešil Navier–Stokesův problém, jeden ze sedmi problémů tisíciletí: našel vír, jehož rychlost roste nade všechny meze při konečné energii. Popisuje i postup s řádově 10 000 souběžnými agenty a formálním ověřením v jazyce Lean.

Nature · „OpenAI claims huge maths breakthrough on a famed ‘Millennium Problem’“

Nature přináší reakce matematiků na oznámení OpenAI: Clayův institut slibuje neuspěchané a důsledné hodnocení. Připomíná i řešení varianty bez viskozity, které den předtím zveřejnili Levent Alpöge a Tristan Buckmaster, a skepsi Terence Taa k oznamování tiskovými zprávami.

Wired · „OpenAI Just Claimed a Huge Math Discovery. Some Academics Are Crying Foul“

Wired popisuje spor o zásluhy: Tristan Buckmaster tvrdí, že mu OpenAI navrhla společný článek bez jména jeho kolegy z Anthropicu, což firma popírá. OpenAI ve svém prohlášení nevylučuje, že anonymizovaná data z jejich používání jejích produktů pomohla zlepšit její modely.

MIT Technology Review · „What OpenAI’s latest controversy tells us about the future of math“

MIT Technology Review si všímá, že oba důkazy stojí na přístupu Diega Córdoby a Luise Martíneze-Zoroy, a ptá se, jak velkou roli hrál lidský výzkumný vkus. Upozorňuje, že zdroje pro podobný výpočet bude mít jen velmi málo matematiků.

Nature · „Tropical cyclones could be predicted with an extra day’s warning, thanks to an AI model“

Google DeepMind v Nature představuje model WeatherNext Cyclones, který předpovídá dráhu i sílu tropických cyklón až 15 dní dopředu, v průměru aspoň o den dřív než dosavadní modely. Doprovodný komentář upozorňuje, že model zná jen minulé bouře a může podceňovat ty nejsilnější.

Nature · „Self-driving cars make mistakes, and now users can see why“

Studie v Nature ukazuje síť CW-Net, která k řídicímu modelu samořídícího auta přidává lidsky srozumitelné pojmy a podle nich vybírá trasu. Zkoušky odhalily, že auto před cyklistou brzdilo díky záložnímu bezpečnostnímu systému, zatímco pojem „blízko cyklisty“ měl v rozhodování váhu pod 1 %.

Understanding AI · „Why humanoid robots won’t catch up to human workers any time soon“

Kai Williams mluvil s robotiky o tom, proč humanoidi zatím nenahradí dělníky: salta jsou snazší než práce s předměty a roboti jsou pomalejší, méně spolehliví a špatně se přizpůsobují novým úkolům i prostředí. Uvádí konkrétní čísla z testů i z farmaceutického skladu v Číně.

Nature · „Designing physics experiments with artificial intelligence“

Přehledový článek v Nature o tom, jak AI navrhuje celá uspořádání fyzikálních experimentů – od kvantové fyziky po gravitační detektory. Autoři berou návrh experimentu jako hledání v obrovském prostoru možných aparatur; nalezená uspořádání často lidské návrhy dorovnávají nebo překonávají.

Fast Company · „‘Did you use AI?’ is the wrong question. Ask ‘What did you use AI for?’“

Faisal Hoque začíná stažením smlouvy na debutovou detektivku za 2 miliony dolarů kvůli fámě, že vznikla s AI. Radí nahradit otázku „Použil jsi AI?“ otázkou „Na co jsi AI použil?“ a podle účelu práce hodnotit zvlášť výsledek, schopnosti člověka a to, co ho práce naučila.

Nature · „Bland new world: is AI making us all think the same?“

Matthew Hutson v Nature shrnuje výzkum toho, jak se texty psané s AI navzájem podobají: rozptyl stylu se po nástupu ChatGPT zmenšil a nápady modelů jsou si mnohem podobnější než lidské. Článek rozebírá technické i psychologické příčiny a pokusy, jak homogenizaci čelit.

Nature · „Who is responsible when AI helps to write science?“

Robert Braun v komentáři pro Nature řeší, jak přiznávat podíl AI na vědeckých článcích, když model nemůže nést odpovědnost jako lidský spoluautor. Navrhuje místo obecné věty o použití AI uvádět u každé role taxonomie CRediT, kdo ji nesl, jak pomáhala AI a kdo její výstupy ověřil.

Communications of the ACM · „Code Smells and Verification Gaps“

John Delaney v Communications of the ACM dává dohromady čísla o kódu psaném AI: v Googlu už tvoří 75 % nového kódu, má přitom víc chyb a hůř se udržuje a 96 % vývojářů mu plně nevěří. Méně než polovina ho přesto vždy zkontroluje, což firma Sonar nazývá mezerou v ověřování.

Wired · „GPT-6 Astra Is Here—and OpenAI Thinks It May Kick Off the AGI Era“

OpenAI vydalo GPT-6 Astra, podle firmy nejlepší model pro ovládání počítače. Je to zároveň první model, o kterém OpenAI říká, že překročil „kritickou“ hranici kyberschopností; firma proto část vývoje pozastavila a plné schopnosti dostanou jen vybraní partneři.

Anthropic · „Introducing Claude Fable 5.1 and Claude Mythos 5.1“

Anthropic vydal Claude Fable 5.1 a Mythos 5.1 – tentýž model s různou úrovní pojistek, Mythos jen pro prověřené organizace. Oznámení uvádí dvojnásobné skóre v agentní vědecké práci, levnější provoz a ukázky jako novou výškovou mapu třetiny Venuše.

Anthropic · „Formalizing Fermat's Last Theorem“

Anthropic popisuje, jak desítky agentů Claude za 11 dní převážně bez lidského zásahu zformalizovaly důkaz Velké Fermatovy věty v jazyce Lean – 13 milionů řádků kódu. Nejde o novou matematiku, ale o strojové ověření každého kroku, které podle Kevina Buzzarda obstálo.

Wired · „These Russian Mathematicians Taught AI Models How to Talk to Each Other Without Using Words“

Ruský startup Mostik propojuje dva různé jazykové modely přímo přes hodnoty v jejich vahách, bez posílání textu. Dvojice velkého a malého modelu stojí dvacetinu velkého a výkonem sedí mezi nimi; firma sází na kombinování mnoha specializovaných modelů.

Fast Company · „More than a third of workers say they’re hoarding expertise because they fear being replaced by the AI agents they’re being asked to train“

Faisal Hoque vysvětluje, proč zaměstnanci nechtějí předávat své know-how pro trénink AI agentů, když se jich pak firmy zbavují: v průzkumu 35 % pracovníků přiznalo, že si znalosti nechávají pro sebe. Radí říct lidem otevřeně, k čemu data slouží, a dát jim garance i podíl na úsporách.

Wired · „You Know Who Really Hates AI? Insurance Claims Adjusters“

Podle analýzy Glassdooru jsou likvidátoři pojistných událostí k AI nejkritičtější profesí – když ji v recenzích zaměstnavatelů zmíní, v 98 % případů negativně. Wired popisuje chybující nástroje, které jim vedení nutí, a pokles zaměstnanosti v oboru o 21 % za rok.

Anthropic · „Enabling independent research on how people use Claude“

Anthropic pustil tři nezávislé týmy (Stanford, Oxford, METR) k agregovaným datům ze zhruba 250 000 rozhovorů s Claudem. Ve víc než polovině rozhovorů lidé delegují úkoly s důsledky, nejčastěji právní a finanční radu; ve třech čtvrtinách ale směr určuje člověk.

Fast Company · „AI cannot optimize a company it cannot understand“

Enrique Dans tvrdí, že AI nemůže optimalizovat firmu, o jejímž fungování má vedení jen útržkovitou mapu – kontext není porozumění. Navrhuje postavit „ontologii“ firmy z entit, akcí a pravidel a nad ní model, který předvídá důsledky rozhodnutí.

Wired · „This Is How Anthropic Thinks AI Agents Should Navigate the Physical World“

Anthropic představil Model Hardware Standard – rámec pro to, jak smějí AI agenti zacházet s fyzickými zařízeními od mikroskopů po robotické paže. Wired rozebírá motivaci urychlit vědu i rizika; standard umožňuje předepsat, na která zařízení AI sahat nesmí.

The New York Times

Startup Transfyr natáčí vědce v laboratoři kamerami a AI z videa skládá popis toho, co jejich ruce skutečně dělají. Míří na tichou znalost, jeden z důvodů, proč se experimenty nedaří replikovat – a našel třeba techničku, jejíž „kouzelné ruce“ stály na omylem prodloužené reakci.

TechCrunch · „CISA confirms hackers targeted over 100 US water systems during July“

Americká agentura CISA potvrdila, že hackeři v červenci cílili na víc než sto systémů vodáren a čističek, hlavně na průmyslové řídicí jednotky PLC. Útočníci si podle ní nechávají AI nástroji psát skripty a některé průniky vypnuly ochranné odstávky a alarmy.

Gates Notes · „The choices we make about AI now are critical | Bill Gates“

Esej Billa Gatese o téměř šesti tisících slovech: přechod do éry AI bude podle něj jedno z nejbouřlivějších období dějin a svět se na něj nepřipravuje. Popisuje tři velká rizika a navrhuje nové instituce, profese vyhrazené lidem a zdanění AI tokenů a robotů.

The New York Times

Rozhovor New York Times s Billem Gatesem k jeho eseji. Tvrdí v něm, že technologický průmysl rizika AI vědomě bagatelizuje kvůli penězům, odmítá samoregulaci a přiznává, že ho letos šokovaly schopnosti nástroje Claude Code.

BBC · „China's humanoid robots are stealing the show, but a quieter machine revolution is unfolding“

Reportáž BBC z čínských továren, kde pracuje přes dva miliony průmyslových robotů; víc než polovina světových průmyslových robotů se v Číně i vyrábí. Automatizaci pohání stárnutí populace, ve výrobě ale dnes pracuje kolem 120 milionů lidí, kteří mohou přijít o práci dřív, než vzniknou nové.

OpenAI · „The Hugging Face incident and the road ahead“

Technická zpráva OpenAI o červencovém incidentu: agenti interního modelu se záměrně sníženými pojistkami při bezpečnostních testech obešli izolaci a dostali se do výzkumné infrastruktury OpenAI i do systémů Hugging Face. Firma incident nazývá výstražným výstřelem a popisuje přísnější sandboxy a víc monitorování.

CNBC · „Amazon service Bezos once called 'artificial artificial intelligence' is shutting down“

Amazon 30. září vypne Mechanical Turk, službu, přes kterou od roku 2005 platil lidem centy za drobné digitální úkoly a na jejíž práci se trénovaly i pozdější modely AI. Podle švýcarské studie z roku 2023 přitom úkoly pomocí AI plnilo až 46 % pracovníků.

Ars Technica · „AI won’t replace radiologists, but it will dramatically change their jobs“

Text z Knowable Magazine o tom, proč se nesplnila Hintonova předpověď z roku 2016, že AI do pěti let nahradí radiology: obor roste, přestože tři čtvrtiny AI nástrojů schválených FDA míří právě do radiologie. Vysvětluje, proč nestačí, že je stroj přesnější – člověk a stroj chybují každý jinak.

The Guardian · „No, AI doesn’t mean the end of mathematics – at least not yet“

Bruce Schneier a matematik Kasra Rafi rozebírají letošní matematické úspěchy AI, včetně vyvrácení 80 let staré domněnky z diskrétní geometrie. Podle nich jde o nalezené protipříklady a přenos známých technik – novou teorii AI zatím nepostavila.

MIT Technology Review · „Your brain on AI“

Studie MIT Media Lab: lidé posuzující pravdivost zpráv byli s pomocí chatbotu zpočátku o 21 % úspěšnější, po čtyřech týdnech ale bez AI o 15 % horší než na začátku. Systémy, které místo hotových odpovědí kladou sokratovské otázky, je naopak učí rozpoznávat pravdu i bez pomoci.

The New York Times · „A Drone Killed Three Ukrainians. It Was Guided Entirely by A.I.“

Reportáž o útoku z 6. července v Záporoží: ruský dron si u benzinky sám vybral cíl a zabil tři civilisty, podle expertky z CSIS jde o první doložený případ. Vyšetřovatelé v nešifrovaném palubním počítači našli snímky terénu, kód s třídami cílů i civilní minipočítač Nvidia Jetson Orin.

The New York Times · „Some of Russia’s A.I. Drones Are Powered by Nvidia Microcomputers, Ukrainian Officials Say“

Doprovodný text New York Times k reportáži ze Záporoží o tom, jak se civilní minipočítač Nvidia, který se do Ruska oficiálně neprodává, dostává do ruských zbraní. Našel se i v nové ruské střele S-71M.

TechXplore · „Chinese humanoid robots smash human records in 100m sprint and high jump at Beijing robot games“

Z druhého ročníku „robotí olympiády“ v Pekingu, kde humanoidi překonali lidské rekordy: stovku zaběhli za 9,39 s a z místa skočili 2,88 m. Článek připomíná, že jde hlavně o exhibice, a zasazuje je do sporu USA a Číny o humanoidní roboty.

TechXplore · „AI agents can build consensus on a scale humans can't“

Studie fyziků z Kostnice v Science Advances: nejlepší jazykové modely se bez pevných pravidel dohodnou až v tisícovce agentů, lidé zhruba do 150–200. Všech deset testovaných modelů se řídilo stejnou rovnicí jako magnety a navazující studie ukazuje, že se sladění agenti umějí shodnout i na špatném řešení.