Přes 4700 falešných AI profilů na seznamkách. Podvodníci nechali chatbota psát miliony zpráv

Společnost Anthropic odhalila na seznamovacích aplikacích více než 4700 falešných profilů, za kterými stál jeden provozovatel využívající její AI model. Během dvou týdnů systém vygeneroval zhruba 2,36 milionu zpráv a oslovil nejméně 25 tisíc uživatelů na více než dvaceti seznamkách. Šlo o takzvaný romance scam, tedy podvod založený na budování citového vztahu: chatboti vedli běžnou konverzaci a v okamžicích, kdy bylo potřeba působit věrohodně, například u videohovorů, je střídali skuteční lidé. Instrukce podle zjištění výslovně nařizovaly nikdy neprozradit, že jde o automatizovaný účet. Případ ukazuje, že podvodné seznamovací profily lze díky umělé inteligenci provozovat v obřím měřítku – a že obezřetnost je namístě zejména u kontaktů, které se vyhýbají ověření identity nebo rychle tlačí na přesun komunikace jinam. Více zde

Zdroj: novinky.cz