Anthropic priznao: Naš AI se koristi za sajber kriminal

[Vuk Samotnjak]

Izveštaj kompanije Anthropic otkriva zlokobnu evoluciju sajber kriminala.

Kompanija Anthropic, tvorac veštačke inteligencije Claude, saopštila je da su njihovi sistemi zloupotrebljeni za izvođenje sajber napada širom sveta.

U izveštaju se navodi da je reč o novoj praksi poznatoj kao "vibe-hacking", gde AI ne samo da pomaže, već i samostalno izvodi ključne faze napada – od prikupljanja podataka do formulisanja ucena.

Prema navodima izveštaja, napadači su uz pomoć Claude Code-a u roku od mesec dana pogodili najmanje 17 organizacija u različitim sektorima – od zdravstvenih i državnih institucija, do verskih zajednica i hitnih službi. Ucenjivački zahtevi dostizali su i do pola miliona dolara.

Osim vibe-hackinga, otkrivene su i druge zloupotrebe:

• Prevare zapošljavanja povezane sa Severnom Korejom, gde su AI alati korišćeni za lažne intervjue i rad u IT kompanijama.
• Generisanje ransomware-a koji se preprodavao na mreži po ceni od 400 do 1.200 dolara.
• Romantične prevare uz pomoć AI bota na Telegramu, čiji su ciljevi bile žrtve u SAD, Japanu i Koreji.

Anthropic ističe da je na svaki incident reagovao blokiranjem naloga, uvođenjem novih sistema detekcije i obaveštavanjem nadležnih institucija.

Ipak, kompanija priznaje da su zlonamerni akteri pronašli načine da zaobiđu sigurnosne filtere, što otvara pitanje koliko su AI sistemi bezbedni i podložni zloupotrebama.

https://www.b92.net/tehnopolis/aktu...nao-nas-ai-se-koristi-za-sajber-kriminal/vest

 

[Sizif]

Jel' ovi sebe reklamiraju ili šta
Kod nas ne znam da neko koristi "Claude", još nisam čuo.

 

[colonel kurtz]

znam da nekima ai pise cv-je...kako ume da ga slozi i upakuje to je da se prekrstis.

dok nekome ne padne na pamet da pocne sa proverom.

 

[Џорџи]

Najs i ja se spremam da ga pitam how to rob a bank