V novém díle podcastu Prompt se věnujeme tomu, jak umělá inteligence proniká do soudních síní a policejní práce. Vycházíme z případu, který zní jako scénář z Black Mirror: v americkém soudním procesu s vrahem muže zastřeleného při road rage sestra oběti přehrála AI video, kde oběť svému vrahovi odpouští. Rozsudek pak zrušil odvolací soud v Arizoně, protože video příliš zasáhlo do výše trestu.

👇👇👇👇👇👇
Staňte se členy Voxpot Klubu! Přispějete tak na provoz nejen tohoto podcastu, získáte přístup na redakční Discord, k plným článkům a dalším klubovým bonusům. Vstup do Klubu najdete na https://www.voxpot.cz/klub/
👇👇👇👇👇👇

Procházíme i další případy, které připomínají spíš seriál Better Call Saul. Obžalovaný si k soudu přivedl AI avatara místo právníka. Obhajoba se pokusila prosadit „vylepšené“ video, na kterém model domýšlel pixely. A advokáti dostávají pokuty za podání plná neexistujících judikátů, které si vymyslel chatbot.

Podíváme se také na ulice. Řešíme kamery Flock, systémy na rozpoznávání obličejů a policisty, kteří do databáze místo nejasné fotky podezřelého nahrají snímek podobné celebrity, nebo rovnou stalkují své bývalé partnerky. Na závěr vás jako vždy čeká generovaný banger, tentokrát o AI policii.

Shownotes

AI generovaný victim statement: https://www.youtube.com/watch?v=4cO6f5pTeUY

Vyšetřování Washington Post o policejním rozpoznávání a AI: https://www.washingtonpost.com/business/interactive/2025/police-artificial-intelligence-facial-recognition/

Žaloba kvůli chybnému zatčení a rozpoznávání s AI (CBS): https://www.cbsnews.com/news/lawsuit-wrongful-arrest-ai-facial-recognition/

Detroit, kamery a rasová zaujatost (CBS): https://cbsnews.com/news/detroit-facial-recognition-surveillance-camera-racial-bias-crime/

Smlouvy ICE s Clearview: https://immpolicytracking.org/policies/reported-ice-contracts-with-clearview-ai-for-facial-recognition-technology/

Met rozšiřuje kamery v centru Londýna: https://www.ibtimes.co.uk/metropolitan-police-expand-facial-recognition-london-west-end-2026-1817802

Soud povolil návrat detekce obličejů na letiště: https://www.seznamzpravy.cz/clanek/domaci-zivot-v-cesku-soud-povolil-navrat-kontroverzni-detekce-obliceju-na-prazske-letiste-299574?noredirect=1

Studie z arXiv k rozpoznávání obličejů: https://arxiv.org/html/2502.02309v3

Funkce „Name Tag“ pro brýle Meta (Android Authority): https://www.androidauthority.com/meta-smart-glasses-facial-recognition-name-tag-3640904/

banger: https://suno.com/song/d3c436db-9b01-4dcb-8846-91d0f89df38d?sh=gTP99BWvzzl4Ae8R

Podle nové eseje šéfa Anthropicu Daria Amodeie bychom se prý měli bát totální zkázy, která přijde tak nějak do patnácti let. A zdá se, že s ním tentokrát nečekaně souhlasí i lidé, kteří spolu veřejně jinak nesouhlasí skoro v ničem — Sam Altman i Elon Musk.

👇👇👇👇👇👇
Staňte se členy Voxpot Klubu! Přispějete tak na provoz nejen tohoto podcastu, získáte přístup na redakční Discord, k plným článkům a dalším klubovým bonusům. Vstup do Klubu najdete na https://www.voxpot.cz/klub/
👇👇👇👇👇👇

Matěj a Jonáš v nové epizodě Promptu rozebírají, proč se debata o bezpečnosti umělé inteligence po měsících klidu najednou vrátila. A není to jen kvůli jedné eseji: nedávno unikl OpenAI ze sandboxu roj testovacích AI agentů, dostal se na otevřený internet a napadl server Hugging Face, přičemž si agenti mezi sebou nechávali tajné vzkazy, kterými se navzájem popoháněli k dalšímu kroku. Zní to jako sci-fi thriller. Realita je přízemnější, ale o to zajímavější.

K tomu se přidává i bizarní příběh bývalého zaměstnance Anthropicu, jehož dramatická rezignace kvůli obavám ze zkázy lidstva rozjela mediální turné po největších západních médiích i záplavu TikTok parodií.

Matěj s Jonášem si kladou nepříjemnou otázku: děje se tohle všechno kvůli reálným technologickým rizikům, nebo jde především o PR hru největších AI firem? A kde je hranice mezi oprávněnou obavou a marketingem strachu, který se hodí investorům?

Block Field

AI už umí generovat písničky, které znějí jako něco, co jste slyšeli tisíckrát. Někdy až příliš doslova. Prompt z Besedy u Bigbítu mapuje byznys s hudbou pro algoritmy, který už možná hraje i ve vašem oblíbeném playlistu.

Live díl Promptu z Besedy u Bigbítu začíná u Briana Ena a jeho algoritmických experimentů ze sedmdesátých let. Pak to ale jde rychle z kopce.

Spotify je plné hudby, kterou nikdo nenapsal, nezahrál ani nezazpíval. Většina posluchačů si jí nevšimne – dokud se z ní nestane virální kapela, remix Madonny nebo soundtrack pro vytetovaného amerického Vikinga.

Velké labely žalují, Deezer označuje AI skladby a Spotify se snaží bránit záplavě generovaného obsahu. Mezitím vznikají cover kapely neexistujících kapel, taxikáři skládají písně o pasažérech a internet poslouchá vikingský hip hop. Dnešní díl Promptu řeší, co vlastně posloucháme, když algoritmus začíná skládat pro algoritmus.

Shownotes:

Brian Eno - Discrete Music: https://www.youtube.com/watch?v=tLZtnadL1s0

Velvet Sundown: https://www.youtube.com/watch?v=BzX1YFZW0jc

Chuck Berry - Johny B Goode: https://www.youtube.com/watch?v=Y-9Y4CCIWnM

Suno AI - 50s Rock and Roll: suno_1950s_rock_and_roll.mp3

Viking Hip Hop: https://www.youtube.com/watch?v=blnRn30okOk

Svalnatí vikingští hiphopeři: https://vm.tiktok.com/ZN88www3e/

Angine de Poitrine: https://www.youtube.com/watch?v=0Ssi-9wS1so

AI Madonna: https://www.youtube.com/watch?v=DEUi-chcM4w

Jonas Ceika - Chat GPT vs. nahrávka: https://x.com/Jonas_Ceika/status/2042445078417834043?lang=en

Nový díl Promptu měl být podle Jonáše Kucharského a Matěje Schneidera nejkratší v historii – měli na hosta jen jednu otázku. Nakonec z toho byla hodina debaty o umělé inteligenci a ekonomice s ekonomem a spoluautorem podcastu Škrty, Janem Bittnerem.

👇👇👇👇👇👇
Staňte se členy Voxpot Klubu! Přispějete tak na provoz nejen tohoto podcastu, získáte přístup na redakční Discord, k plným článkům a dalším klubovým bonusům. Vstup do Klubu najdete na https://www.voxpot.cz/klub/
👇👇👇👇👇👇

Může skrze rozmach AI odumřít stát? Nebo naopak roboti začnou vstupovat do odborů?

Hostem dnešního Promptu je ekonom Jan Bittner z Katedry manažerské ekonomie VŠE a autor disertace o mzdách, minimální mzdě a odborech.

Řeč přijde na to, jestli technologický pokrok sám o sobě prospívá společnosti, nebo bez tlaku odborů a institucí spíš koncentruje moc a bohatství nahoře – od Amazonu přes koncept „pro-worker AI“ ekonoma Darona Acemoğlua až po takzvanou plutonomii.

Velký prostor dostává i daňová otázka: české zdanění stojí na práci, ne na kapitálu, a s automatizací tak hrozí výpadek příjmů i přerozdělování, což otevírá debatu o dani z bohatství i kontroverzní „dani z robotů“.

Na závěr jako obvykle nechybí generovaný AI banger, tentokrát hymna robotického odborového hnutí.

Shownotes
Podcast Škrty
Dnešní banger

V novém díle podcastu Prompt se věnujeme otázce, která rezonuje čím dál hlasitěji: dá se v oblasti umělé inteligence vůbec mluvit o evropské suverenitě? A pokud ano, ztělesňuje ji francouzská firma Mistral?

👇👇👇👇👇👇
Staňte se členy Voxpot Klubu! Přispějete tak na provoz nejen tohoto podcastu, získáte přístup na redakční Discord, k plným článkům a dalším klubovým bonusům. Vstup do Klubu najdete na https://www.voxpot.cz/klub/
👇👇👇👇👇👇

Impulzem k tématu je nedávný spor mezi Anthropicem a americkou administrativou. Ta v polovině léta na několik dní zastavila přístup k modelům Fable 5 a Mythos 5 pro cizí státní příslušníky po celém světě – tedy i pro Evropany. Ukázalo se tak, proč je otázka evropské nezávislosti na americké AI infrastruktuře zásadní.

Mistral, založený v Paříži v roce 2023 týmem kolem Arthura Mensche, se přitom dlouhodobě prezentuje jako evropská alternativa k modelům ze Silicon Valley.

V epizodě ale rozebíráme, proč je celý příběh komplikovanější, než by se zdálo. Modely firmy se trénují na americkém hardwaru v amerických datacentrech, provoz běží na serverech Googlu a Amazonu, a mezi investory figurují saudskoarabské fondy i americký Microsoft.

Block Field

Věnujeme se také ekonomice Mistralu ve srovnání s OpenAI a Anthropicem, lobbingu kolem evropského AI Actu i tomu, jestli má vůbec smysl honit se za výpočetní kapacitou USA a Číny.

Tradiční generovaný banger na závěr dílu vám vysvětlí, co to vlastně je AI Act.

Shownotes:

AI banger

EU AI Frontier Challenge

EURO HPC superpočítače
Paper Jakuba Eberleho o nerovnosti a digitální suverenitě

Levné FPV drony loví jednotlivé vojáky, Starlink drží při životě ukrajinské operace a americký ministr války slibuje, že se nebudou dodržovat „hloupá pravidla“. Živý díl podcastu Prompt rozebírá, kde končí technologická inovace a začíná normalizovaná brutalita.

👇👇👇👇👇👇
Staňte se členy Voxpot Klubu! Přispějete tak na provoz nejen tohoto podcastu, získáte přístup na redakční Discord, k plným článkům a dalším klubovým bonusům. Vstup do Klubu najdete na https://www.voxpot.cz/klub/
👇👇👇👇👇👇

Tenhle díl Promptu jsme nahrávali živě na akci To je krize, kterou Voxpot pořádal s Peace Research Center Prague. A kromě audia ho pro vás máme i jako video.

Matěj Schneider vedl debatu se třemi hosty: Alžbětou Dvořákovou z Institutu mezinárodních studií FSV UK a Státního úřadu pro jadernou bezpečnost, Ondřejem Rosendorfem z hamburského Institute for Peace Research and Security Policy a Janem Kofroněm z Institutu politologických studií FSV UK.

Společně jsme řešili „dronovou revoluci“ na Ukrajině i v Íránu, jak levné FPV stroje a improvizované kamikaze drony změnily tvář bojiště, kvůli čemu se NATO musí vracet ke kanónové PVO a proč jsou hypersonické střely víc nafouknutý mýtus než gamechanger.

Velkým tématem bylo ale samozřejmě využití umělé inteligenci ve válce, od izraelského systému Lavender po americký Project Maven, který spojuje satelitní snímky, HUMINT a otevřená data do jednoho „kill chainu“.

Do všeho zmíněného samozřejmě vstupuje politika: americký ministr války mluvící o „hloupých pravidlech“ nebo také Pásmo Gaza jako laboratoř „chytré“ destrukce.

A tentokrát vás AI generovaného „bangeru“ ušetříme!

Co uvádí v novém manifestu firma, která získala jméno podle vidoucích kamenů z díla J. R. R. Tolkiena? A jak vlastně přemýšlí její šéf Alex Karp? Do jeho hlavy se vydávají Jonáš Kucharský a Matěj Schneider v podcastu Prompt.

👇👇👇👇👇👇
Staňte se členy Voxpot Klubu! Přispějete tak na provoz nejen tohoto podcastu, získáte přístup na redakční Discord, k plným článkům a dalším klubovým bonusům. Vstup do Klubu najdete na https://www.voxpot.cz/klub/
👇👇👇👇👇👇

Firemní manifest inspirovaný knihou The Technological Republic tvrdí, že Silicon Valley má morální povinnost podílet se na budování americké vojenské a technologické dominance. Podle Palantiru budoucnost patří softwaru pro armádu, bezpečnostní aparát a tvrdou státní moc.

Nový díl našeho podcastu proto rozebírá, v čem manifest místo budoucnosti evokuje spíš propagandu z dob dávno minulých. Firma například obhajuje návrat povinné vojenské služby, kritizuje pluralismus i údajnou slabost Západu a tvrdí, že technologické firmy by měly místo aplikací „stavět zbraně“.

Prompt připomíná, že už dnes Palantir hluboce spolupracuje s americkými bezpečnostními institucemi, armádou i zahraničními vládami.

Zároveň uslyšíte i náš pohled na samotného Alexe Karpa – člověka, který se dlouhá léta označoval za socialistu a absolventa frankfurtské kritické teorie, zatímco jeho firma budovala jeden z nejmocnějších nástrojů digitálního sledování na světě.

Shownotes:
Banger
Karp a jeho meč
Manifest Palantiru

Anthropic představil model Mythos, který podle firmy prolomil dosud neznámé softwarové bezpečnostní díry a zvládl kompletní simulaci velkého kybernetického útoku. Zároveň ho firma označila za tak nebezpečný, že ho veřejnosti raději vůbec neuvolní.

👇👇👇👇👇👇
Staňte se členy Voxpot Klubu! Přispějete tak na provoz nejen tohoto podcastu, získáte přístup na redakční Discord, k plným článkům a dalším klubovým bonusům. Vstup do Klubu najdete na https://www.voxpot.cz/klub/
👇👇👇👇👇👇

V bezpečnostních testech dokázal nový model Mythos údajně samostatně plánovat a provádět komplexní útoky, nacházet dosud nezdokumentované chyby v infrastruktuře a obcházet vlastní sandbox.

V novém dílu podcastu Prompt řešíme, jak se v Mythosu projevují dlouho diskutované problémy jako reward hacking a „řetěz myšlenek“, a proč se Anthropic pokouší měřit „emoce“ modelů.

Ptáme se, co z toho je reálný průlom ve výzkumu bezpečnosti, co naopak připomíná spíš PR, a proč část výzkumné scény tvrdí, že jsme s chápáním vnitřního fungování velkých jazykových modelů pořád na začátku.

Shownotes:
banger

Project Glasswing

Mythos System Card (244 stran)

Emotion Concepts paper

Attribution Graphs / Biology of LLM (mar 2025)

80,000 Hours — How scary is Claude Mythos?

Neel Nanda — mechanistic interpretability (EA Forum)

Steven Casper — reflections on Anthropic SAE research