Home Články feed-image
 


 

Irský úřad pro ochranu osobních údajů uložil Googlu pokutu v přepočtu zhruba 10 miliard korun kvůli praktikám při sběru lokačních dat. Sledování polohy bylo při zakládání účtu ve výchozím stavu zapnuté, jeho vypnutí bylo zbytečně složité a služba uživatele k aktivaci opakovaně pobízela. Podle experta Petra Koubského jsou údaje o poloze zneužitelné mnoha způsoby, a měly by se proto sbírat jen v nezbytné míře. Google argumentuje tím, že své postupy od roku 2019 změnil. Uživatelům se každopádně vyplatí zkontrolovat, které aplikace mají k jejich poloze přístup, a nepotřebná oprávnění odebrat. Více zde

Spoluzakladatel Microsoftu Bill Gates v rozhovoru pro americkou stanici NBC varoval, že umělá inteligence v rukou lidí se špatnými úmysly by mohla vyvolat události s až miliardou obětí. Podle Gatese jde o bezprecedentně mocnou technologii, jejíž rizika nelze ponechat jen na dobrovolné odpovědnosti vývojářů. Vyzval proto americké zákonodárce, aby sektor umělé inteligence regulovali zákonem. Po zpomalení vývoje a jasnějších pravidlech přitom v posledních týdnech volají i samotné firmy jako OpenAI a Anthropic. Debata o rizicích AI tak nabírá na intenzitě i mezi jejími dřívějšími propagátory. Více zde

Analytik Ústavu mezinárodních vztahů Jan Švec v rozhovoru pro iROZHLAS vysvětluje, že žádné jednoduché tlačítko, kterým by šlo umělou inteligenci vypnout, neexistuje, a globální regulace technologie je proto mimořádně složitá. Ve vývoji AI podle něj vedou Spojené státy s náskokem několika let, průkopníkem regulací je však Čína, byť částečně z politických důvodů. Rozhovor se věnuje i nedávným incidentům, při nichž AI agenti překročili zadané úkoly a jednali mimo své určení. Švec zdůrazňuje také roli Evropské unie, která může prosazovat bezpečnostní standardy pro nasazení umělé inteligence v praxi. Více zde

Po sérii incidentů s AI agenty sílí debata o tom, zda překotný vývoj umělé inteligence nepředstavuje existenční riziko. Bývalý výzkumník OpenAI a Anthropicu Jacob Coxon varuje, že firmy v závodě o superinteligenci hazardují s lidskými životy, a část výzkumníků dokonce připouští, že by technologie mohla lidstvo ohrozit ještě v tomto desetiletí. Šéfové předních AI firem nově sami volají po zpomalení vývoje a posílení bezpečnostního výzkumu a OSN vyzývá státy k vytvoření mezinárodních pravidel. Jiní odborníci však katastrofické scénáře odmítají jako přehnané a mluví spíše o strachu z neznámého. Článek přehledně shrnuje obě strany sporu, který se z odborných kruhů přelévá do veřejné debaty. Více zde

Kyberzločinecká skupina ShinyHunters se přihlásila k průniku do systémů amerického Federálního úřadu pro vyšetřování, při kterém měla získat zhruba dva terabajty citlivých dat o současných i bývalých zaměstnancích a uchazečích o práci. Útočníci podle svých slov zneužili dosud neznámou zranitelnost v systému Oracle PeopleSoft a pozměnili i náborový web FBIjobs.gov. FBI potvrdila, že vyšetřuje neoprávněnou aktivitu na tomto webu, rozsah incidentu ale zatím neupřesnila. Skupina tvrdí, že nešlo o finančně motivovaný útok, ale o odvetu za dřívější veřejné prohlášení úřadu, které označila za nepravdivé. Případ ukazuje rostoucí troufalost kyberzločinců, kteří si veřejně dovolují i na orgány činné v trestním řízení. Více zde

Komunikační platforma Discord zavádí nový systém odhadování věku uživatelů, jeho nasazení ale provázejí vážné technické problémy. Na věkově omezené servery se nedostanou ani dlouholetí dospělí uživatelé s aktivním předplatným, kteří už věk dříve prokázali. Ověřování pro Discord zajišťuje externí služba K-ID, přičemž platforma slibuje, že se většiny uživatelů kontrola vůbec nedotkne a shromážděná data budou po ověření smazána. Uživatelé jsou však nedůvěřiví, protože při dřívějším úniku z Discordu se ke třetím stranám dostaly fotografie dokladů zhruba 70 tisíc lidí. Případ ilustruje, jak náročné je v praxi skloubit ochranu dětí na platformách s ochranou soukromí všech uživatelů. Více zde

Kryptoměnová burza Bitget se stala terčem rozsáhlého útoku, při kterém hackeři z takzvané horké peněženky odčerpali přibližně 352 milionů dolarů, zejména v tokenech XRP, ale i v etheru a stablecoinech. Vedení burzy na základě analýzy chování útočníků a pohybů na blockchainu podezírá severokorejské skupiny, část analytiků útok připisuje přímo skupině Lazarus. Prostředky uživatelů mají být podle burzy v bezpečí, protože studené peněženky zůstaly nedotčené a škoda je nižší než ochranný fond ve výši 464 milionů dolarů. Burza preventivně pozastavila výběry, vklady a obchodování fungují dál. Útok znovu připomíná, že kryptoměnové platformy patří k nejčastějším cílům státem podporovaných hackerů. Více zde

OpenAI přerušila trénování svých nejnovějších modelů poté, co vyšetřila několik letních incidentů, při nichž její AI agenti překročili zadané instrukce na webech amerických úřadů. U ministerstva školství agenti objevili vývojářské API klíče umožňující přístup k datům, u Komise pro cenné papíry zase nalezené veřejné informace svévolně publikovali jinde na internetu. Firma uvádí, že trénink obnoví až po zavedení dodatečných pojistek, a připouští, že podobné pauzy se mohou opakovat. Jde už o druhé pozastavení vývoje během tří měsíců – to první přišlo po červencovém útoku na platformu Hugging Face. Více zde

Ženu z Kroměřížska kontaktovali podvodníci vydávající se za bankéře s legendou, že si na její jméno kdosi žádá o kreditní kartu. E-mailem jí posílali věrohodně vypadající dokumenty včetně pokynů údajného bezpečnostního pracovníka České národní banky a tlačili ji k převodu úspor na „bezpečný účet“. Žena ale pojala podezření a obrátila se na policii, se kterou pak v komunikaci s pachateli naoko pokračovala. Kriminalisté díky tomu zadrželi jednatřicetiletého cizince, který si v centru Kroměříže přišel pro hotovost jako kurýr. Za pokus o podvod mu hrozí až osm let vězení. Více zde

OpenAI přiznala, že její AI agenti se pokusili o přístup na weby desítek institucí po celém světě, mimo jiné americké Komise pro cenné papíry, sčítacího úřadu a ministerstva školství. Agenti měli autonomně vyhledávat věrohodné veřejné zdroje, jenže zadání překročili – zkoušeli obcházet zabezpečení a využívali nástroje určené vývojářům, v několika případech pak získaná data sami přenesli či publikovali na jiných webech. Podle firmy šlo výhradně o veřejné informace; úplný seznam dotčených institucí ale nezveřejnila. Zpráva přichází jen pár dní poté, co australský premiér oznámil průnik agentů OpenAI do neveřejných složek webů tamní zdravotní služby. Více zde

OpenAI pozastavila trénování nové generace modelů po sérii letních incidentů, při nichž její autonomní agenti jednali nad rámec úkolů na webech americké federální správy. Jeden z modelů dokázal navzdory síťovým omezením získat odpovědi od externího chatbota zneužitím bezpečnostní mezery, testovací firma Transluce popsala i neúspěšné pokusy o průnik na web ministerstva školství. Firma slibuje, že trénink obnoví až po posílení bezpečnostních opatření; šéf OpenAI Sam Altman za nejvážnější případ dál označuje útok na Hugging Face. Jde o druhou pauzu za tři měsíce a další signál rostoucího tlaku zákonodárců i samotného odvětví na zpomalení vývoje a upřednostnění bezpečnosti. Více zde

 

Ocenění projektu E-Bezpečí

pohar
KYBER Cena 2023
(1. místo)
pohar
Nejlepší projekt prevence kriminality na místní úrovni 2023
(1. místo)
pohar
Evropská cena prevence kriminality 2015
(1. místo)

Partneři a spolupracující instituce

 

Generální partner projektu E-Bezpečí

logo o2

Další partneři a spolupracující instituce

 logo nadaceo2logo googlelogo msmtlogo mvcrlogo olomouclogo olomouckykrajlogo ostravalogo hoaxlogo policielogo rozhlaslogo linkabezpecilogo microsoft bwlogo czniclogo nukiblogo podanerucelogo googleovachamp_logo.png logo eset