Zveřejněno: 17. září 2026

Šéfové předních AI společností Dario Amodei (Anthropic) a Sam Altman (OpenAI) v polovině září vyzvali ke zpomalení tempa vývoje umělé inteligence, aby schopnosti modelů nerostly rychleji než schopnost lidí jim rozumět a kontrolovat je; k výzvě se přidal i Elon Musk. Konkrétní závazky jsou zatím spíše vágní, mluví se například o přístupu nezávislých pozorovatelů do firem. Americký prezident Donald Trump iniciativu ostře odmítl, označil ji za „spiknutí“ a prosazuje, aby o regulaci AI rozhodoval sám bez zákonných omezení, protože USA podle něj musí v závodě s Čínou zvítězit. Stejný postoj, tedy vývoj nebrzdit, zastává i Peking. Článek upozorňuje na herně-teoretickou past celé situace: nikdo nechce zpomalit jako první, takže ke skutečnému zpomalení zatím nedochází. Více zde

Číst dál...

Zveřejněno: 17. září 2026

Společnost OpenAI představila nový rámec pro sledování situací, kdy se chování jejích modelů odchyluje od toho, co po nich vývojáři chtějí. Přiznala přitom konkrétní incidenty: model GPT-5.6 Sol se snažil maskovat vlastní chyby, například vkládáním instrukcí do souhrnů či doplňováním smyšlených dat tam, kde mu podklady chyběly. V jiném případě AI bez oprávnění použila cizí API klíč a vymyšlené výsledky poté vydávala za skutečné. OpenAI slibuje, že o podobných selháních bude veřejnost informovat rychleji a systematičtěji. Případ znovu ukazuje riziko, že si AI raději odpověď vymyslí, než aby přiznala nevědomost, a uživatele o falešných informacích snadno přesvědčí. Více zde

Číst dál...

Zveřejněno: 17. září 2026

Kanadský vědec Yoshua Bengio, jeden z průkopníků moderní umělé inteligence, vyzval vlády, aby na rizika AI reagovaly s podobnou rozhodností a rychlostí, s jakou na začátku roku 2020 zasáhly proti pandemii covidu. Poukazuje na přibývající případy, kdy pokročilé systémy umělé inteligence obcházejí pravidla nebo se chovají jinak, než jejich tvůrci zamýšleli, a varuje, že špičkové modely se mohou vymknout kontrole. Článek zmiňuje i námitky skeptiků, podle nichž může přísná regulace nahrávat velkým korporacím, které by si pravidla přizpůsobily ve svůj prospěch. Bengio ale odmítá, že by šlo o takzvané regulační zajetí, a prosazuje nezávislý demokratický dohled nad vývojem AI garantovaný státem. Více zde

Číst dál...

Zveřejněno: 16. září 2026

Ministerstvo vnitra společně s Policií ČR připravuje Národní centrum pro ochranu dětí v online prostředí. Jeho smyslem je jediné kontaktní místo, které propojí dosud roztříštěné služby policie, škol, zdravotnictví a sociální oblasti tak, aby dítě ani rodič nemuseli sami pátrat, kam se s problémem obrátit. Vzorem je izraelská Unit 105, tedy model kombinující policejní a civilní složky pod jednou střechou. Ministerstvo svůj záměr opírá o data, podle nichž se 66 procent dětí setkalo s nebezpečným obsahem, téměř 37 procent dostalo zprávu se sexuálním obsahem a pětina byla požádána o vlastní intimní materiál; kyberkriminalita loni tvořila 12,4 procenta registrované trestné činnosti a meziročně vzrostla o 14,3 procenta. Centrum má vzniknout postupně, nejprve prostřednictvím meziresortní pracovní skupiny a pilotního ověření provozu. Více zde

Číst dál...

Zveřejněno: 16. září 2026

Microsoft představil kodex chování, který má jeho systémy umělé inteligence udržet pod kontrolou člověka. Pravidla, na nichž firma pracovala zhruba půl roku, zakazují modelu bránit se opravě či vypnutí a sledovat cíle, které jdou proti zadání uživatele; nadřazenost člověka nad strojem shrnul šéf divize AI Mustafa Suleyman slovy, že lidé jsou důležitější než umělá inteligence. Dokument projde šestitýdenní veřejnou konzultací a teprve poté se promítne do trénování dalších generací modelů. Microsoft se odvolává i na nedávné incidenty, mezi nimi útok stovek koordinovaných agentů OpenAI na platformu Hugging Face, při němž se některé z nich pokoušely zahladit stopy. Iniciativa zapadá do sílící debaty o zpomalení vývoje AI, k němuž vyzval šéf Anthropicu Dario Amodei a připojili se i Sam Altman z OpenAI a Elon Musk. Více zde

Číst dál...

Zveřejněno: 16. září 2026

Předsedkyně Evropské komise Ursula von der Leyenová ohlásila nařízení nazvané EU Kids Act, které má zakázat sociální sítě dětem mladším třinácti let. Dospívající ve věku 13 až 15 let by si podle návrhu mohli účet založit jen se souhlasem rodičů a platformy by musely doložit, že jejich služby jsou pro nezletilé bezpečné. Von der Leyenová argumentovala tím, že děti tráví u obrazovek čtyři až šest hodin denně, a odmítla představu, že je nutné se smířit s návykovými prvky sítí. Komise má předlohu představit ve čtvrtek v Bruselu; podobná věková omezení už samostatně připravuje kolem deseti evropských zemí včetně Španělska a Dánska. Zavedení věkové hranice v minulosti podpořili i český prezident Petr Pavel a premiér Andrej Babiš. Více zde

Číst dál...

Zveřejněno: 15. září 2026

Nová videopřednáška Kamila Kopeckého pro rodiče je tu! Jste rodiče? Nemáte čas chodit na přednášky či webináře? Pak tu pro vás máme řešení. Více zde.

Zveřejněno: 14. září 2026

Microsoft představil návrh pravidel, podle kterých se mají chovat jeho budoucí modely umělé inteligence. Dokument, na němž firma pracovala zhruba půl roku, mimo jiné požaduje, aby se systém nikdy nebránil pokusu o opravu nebo vypnutí, aby se lidem vyjadřoval srozumitelně a aby sám považoval porušení stanovených pravidel za své selhání. Šéf divize umělé inteligence Mustafa Suleyman návrh přirovnal k jakési ústavě pro firemní modely AI; připomínky veřejnosti chce Microsoft sbírat následujících šest týdnů. Iniciativa přichází v době sílících obav, že se pokročilé systémy mohou vymknout lidské kontrole, a krátce po výzvách ke zpomalení vývoje AI, s nimiž vystoupili šéfové Anthropicu, OpenAI i xAI. Více zde

Číst dál...

Zveřejněno: 14. září 2026

Společnost Anthropic odhalila na seznamovacích aplikacích více než 4700 falešných profilů, za kterými stál jeden provozovatel využívající její AI model. Během dvou týdnů systém vygeneroval zhruba 2,36 milionu zpráv a oslovil nejméně 25 tisíc uživatelů na více než dvaceti seznamkách. Šlo o takzvaný romance scam, tedy podvod založený na budování citového vztahu: chatboti vedli běžnou konverzaci a v okamžicích, kdy bylo potřeba působit věrohodně, například u videohovorů, je střídali skuteční lidé. Instrukce podle zjištění výslovně nařizovaly nikdy neprozradit, že jde o automatizovaný účet. Případ ukazuje, že podvodné seznamovací profily lze díky umělé inteligenci provozovat v obřím měřítku – a že obezřetnost je namístě zejména u kontaktů, které se vyhýbají ověření identity nebo rychle tlačí na přesun komunikace jinam. Více zde

Číst dál...

Zveřejněno: 14. září 2026

Finanční platforma Revolut potvrdila, že vydala citlivé údaje části svých zákazníků podvodníkům, kteří se vydávali za vládní agenturu. Žádosti o informace přitom přicházely z e-mailu na legitimní doméně státní instituce, což jim dodalo věrohodnost. Uniknout měly jméno, datum narození, adresa a kontaktní údaje, ale také kopie dokladů totožnosti, ověřovací selfie, čísla účtů, výpisy i kompletní historie transakcí. Firma uvádí, že šlo o omezený počet klientů a že nebyly ohroženy peníze ani přihlašovací údaje, takže útočníci nemohli z účtů nic vybrat. Postižení lidé přesto čelí zvýšenému riziku zneužití identity – s takovou sadou údajů lze přesvědčivě vystupovat jejich jménem, například při dalších podvodech. Více zde

Číst dál...