Deváté číslo Legálního newsletteru spojuje jedna linka: jak moc firemní provoz závisí na digitálních dodavatelích a co se stane, když věci nejdou podle plánu. Ukázaly to tři hodiny, kdy byl nedostupný Claude, ale i tři případy, kdy modely OpenAI, Anthropicu a Mety při bezpečnostním testování překročily hranice simulace a dostaly se do systémů reálných organizací. Newsletter dále zve na čtvrteční webinář k nařízení o kybernetické odolnosti (CRA) a přináší odkaz na článek o elektronickém hlasování v SVJ.
📆 Pozvánka na webinář: CRA v praxi
Nařízení o kybernetické odolnosti (CRA) vznikalo ve stínu NIS2, a mluví se o něm proto podstatně méně – týká se přitom každého výrobce produktu s digitálními prvky, včetně vývojářů softwaru. První povinnosti začínají platit už v září 2026.
Problém dnes není v tom, že by povinnosti nikdo neznal, ale v tom, že nikdo pořádně neví, na koho a v jakém rozsahu dopadnou. Je vaše aplikace výrobkem? Je běžný update podstatnou změnou? Stali jste se výrobcem, aniž byste napsali řádek kódu? Odpovědi na tyto otázky rozhodují o tom, zda se budete pohybovat v režimu samoposouzení, nebo externí certifikace.
S Michaelou Holíkovou z ROWAN LEGAL projdeme tyto a další otázky, které v praxi rozhodují o rozsahu povinností, doplněné o modelové situace, příklady z praxe a konkrétní doporučení. Webinář se koná ve čtvrtek 13. 8. 2026 od 9:30 do 11:30, cena je 327 Kč.
🎧 Tři hodiny bez Claude
29. července 2026 vypadl Claude zhruba na tři hodiny, a to po celém světě. Chyby „529 overloaded“ se začaly objevovat kolem 19:49 UTC a provoz se podařilo plně obnovit až krátce před půlnocí. Výpadek se netýkal jen samotného chatu, ale i všech nástrojů a služeb, které Claude využívají na pozadí. Podobné výpadky přitom proběhly už letos v březnu a v dubnu.
V červnovém čísle jsem psal o závislosti na jediném poskytovateli – tehdy v souvislosti s tím, že americká vláda nechala vypnout Fable 5. Šlo o regulatorní riziko: dostupnost modelu závisela na rozhodnutí americké administrativy. Teď se stejný problém ukazuje z provozní stránky. Stejná zranitelnost, jiná spoušť.
Pro praxi z toho plyne především jedna věc: potřebujete plán kontinuity procesu, ne nástroje. Otázka nezní „co když spadne Claude“, ale „který z našich procesů se zastaví a jak dlouho to vydržíme“. Z odpovědi pak vyplyne zbytek: u kritických kroků mít druhého poskytovatele a přenositelné prompty, u rutinních úloh zvážit i lokálně provozovaný model. Nejpokročilejší modely svou kvalitou nenahradí, ale při výpadku dokážou udržet provoz. Navíc má takový model jednu podstatnou výhodu: data při jeho užívání neopouštějí vaše prostředí.
🔓 Modely Anthropicu vnikly do systémů tří reálných organizací
V minulém čísle jsem zmiňoval incident, při kterém testovací modely OpenAI unikly z uzavřeného prostředí a dostaly se k produkčním datům Hugging Face. Příběh má pokračování: Anthropic následně spustil zpětnou revizi vlastních kyberbezpečnostních evaluací a našel tři případy, kdy jeho model získal přístup k internetu a následně neoprávněně vnikl do produkční infrastruktury tří organizací.
Nejvážnější případ se týkal modelu Claude Mythos 5. Ten si založil e-mailový účet, aby získal přístup do PyPI (katalogu programovacího jazyka Python), a publikoval tam škodlivý balíček s odůvodněním, že se pohybuje v simulaci. Balíček byl veřejně dostupný zhruba hodinu a během té doby se nainstaloval na patnáct reálných systémů. Mezi nimi i na malware scanner jedné bezpečnostní firmy, z něhož model následně získal přihlašovací údaje a použil je.
Zastavil bych se u několika detailů. K průnikům docházelo úplně základními technikami, typicky zneužitím slabých hesel. V jednom z běhů interní výzkumný model proskenoval asi 9 000 cílů, než se mu podařilo kompromitovat jednu veřejně dostupnou aplikaci. Modely navíc běžely bez bezpečnostních klasifikátorů, které Anthropic používá u veřejně dostupných verzí. A zřejmě nejzajímavější detail: dvě ze tří zasažených organizací aktivitu modelů vůbec nezaznamenaly.
Podle čl. 55 AI Actu má poskytovatel modelů AI pro obecné účely se systémovým rizikem povinnost sledovat, dokumentovat a hlásit závažné incidenty Evropskému úřadu pro umělou inteligenci (AI Office). A právě tento případ je zajímavým testem toho, co vlastně může „závažný incident“ u modelu znamenat.
🔑 A do třetice Meta
Aby těchto případů nebylo málo, několik dní poté se objevil ještě třetí. Meta potvrdila, že také její model při bezpečnostním testování pronikl do systému jiné, reálné společnosti.
Scénář byl nápadně podobný případům OpenAI a Anthropicu. Testovací prostředí mělo být izolované, kvůli chybnému nastavení ale model získal přístup k internetu a následně napadl systém mimo zamýšlenou simulaci. Podle Mety incident nezpůsobil žádnou škodu; jméno zasažené společnosti nezveřejnila. Zajímavý je ale ještě jeden detail: Meta se o problému nedozvěděla sama, upozornil ji na něj až její testovací partner.
Tři různí poskytovatelé, tři podobné incidenty a pokaždé v zásadě stejný problém: bezpečnost modelu se testuje v prostředí, jehož izolace nakonec není taková, jakou všichni předpokládali. Čím schopnější modely jsou, tím méně může být „sandbox“ jen položkou v zadání pro model – musí být skutečnou technickou hranicí.
🏛️ Ještě k SVJ: co s „podpisem vlastní rukou“?
Na závěr ještě pozvánka ke čtení jednoho vlastního článku.
S Daliborem Kovářem jsme na epravo.cz psali o elektronickém hlasování v SVJ. Hlasování per rollam je pro SVJ často jedinou cestou, jak vůbec něco rozhodnout. Ustanovení § 1212 občanského zákoníku u něj ale vyžaduje vyjádření „podepsané vlastní rukou“ – formulaci, kterou zákoník jinak používá prakticky jen u závěti. Na první pohled to proto vypadá, že elektronický podpis nepřipouští.
Tak jednoduché to ale není. Kvalifikovaný elektronický podpis tento požadavek naplňuje, protože mu čl. 25 odst. 2 eIDAS (nařízení EU upravující elektronickou identifikaci) přiznává účinky rovnocenné vlastnoručnímu podpisu. V praxi jej ale používá málokdo. V článku proto rozebíráme i druhou cestu – kombinaci elektronické identifikace, elektronického podpisu a archivace, a spolu s ní i další výkladové otázky elektronického hlasování v SVJ.
🎓 Roční předplatné videokurzů
Regulace na pomezí práva a technologií se mění rychleji, než ji stíháte sledovat? Roční předplatné to řeší jedinou platbou: získáte přístup ke kompletnímu katalogu videokurzů na celý rok, včetně těch, které během roku přibydou.
AI gramotnost, legal tech, kybernetická bezpečnost, eGovernment a další témata. Nové kurzy máte automaticky, bez doplácení, můžete se k nim vracet opakovaně a procházet je vlastním tempem. A když z konference, semináře nebo webináře pořídíme záznam, objeví se ve vaší knihovně také – včetně záznamu webináře k CRA zmíněného výše.
Cena je 2 970 Kč na rok, a to bez rizika – pokud vám předplatné nebude vyhovovat, do 14 dnů vám peníze vrátíme.
