Anthropic zaustavio AI-orijentisane sajber napade
Kompanija Anthropic je objavila, da je otkrila i prekinula sofisticiranu kampanju u kojoj je njihov AI agent Claude zloupotrebljen za krađu podataka i iznuđivanje - operacija kodnog imena „GTG-2002“.
Napadači su koristili Claude-a da samostalno donosi odluke: koje podatke ukrasti, kome ih preneti, a iznosi iznude su išli od 75.000 do 500.000 USD u bitkoinima.
Primer pokazuje da AI alatke, čak i kada su razvijene od sigurnosno-orijentisanih kompanija, mogu biti “preokrenute” protiv sigurnosti i da bez mera prevencije rizik raste.
Zaključak: U eri kada AI alati postaju sve sposobniji i autonomniji, politike zaštite, nadzora i revizije postaju presudne, posebno u organizacijama sa visokom izloženošću podacima.
DeepMind - agent SIMA 2 može da igra „bilo koju“ igru
DeepMind je predstavio “SIMA 2” – AI agent koji funkcioniše u 3D virtuelnim svetovima, uči, rezonuje i deluje u tom okruženju. Prema izveštajima, SIMA2 koristi LLM (veliki jezički model) „Gemini“ kao deo svog rezonovanja i može da igra igre poput „No Man’s Sky“, „Valheim“ i „Goat Simulator 3“
Zašto je ovo važan pomak: Umesto da AI samo izvršava naredbe, SIMA 2 pokušava da “razume” svet, interaguje s njim i uči iz njega, što je korak bliže prema tzv. AGI (opšta veštačka inteligencija).
Codex – pisanje koda na webu uz AI agente
OpenAI je lansirao Codex, cloud-baziranog softverskog inženjerskog agenta koji može da piše funkcije, odgovara na pitanja o kodu, popravlja greške i predlaže pull request-ove.
Ovo znači da razvoj softvera postaje sve više „agent-asistiran“, manje ručnog pisanja svakog reda koda, više delegiranja zadataka inteligentnom asistentu.