Фото: DepositPhotos

Групата за разузнавање на закани на Google (GTIG) и Mandiant го објавија новиот квартален извештај за тоа како напаѓачите ја користат вештачката интелигенција. Според Google, тие сè почесто преминуваат од обични прашања до „чет ботовите“ кон автономни системи со повеќе агенти.

Најзначајниот пример е рамката „exploit_agent“, пронајдена на незаштитен сервер на напаѓачите. Таа постојано го споредува кодот на популарни веб-апликации пред и по објавата на закрпите, ги бара поправените пропусти, пишува напади за нив и сама ги извршува. Според GTIG, ова е прв пат групата да забележи целосно автоматизирано откривање и искористување на пропусти без човек во процесот.

Податоците на серверот сугерираат дека операторот бил заинтересиран за француски веб-страници од медиумите, забавата и образованието. Во вистински напади биле забележани и алатките со отворен код CAIRN, меѓу другото врз мети од воздухопловната индустрија во САД и PentAGI, со која биле скенирани организации во Азија. Во јули пишувавме и за напад со „уценувачки софтвер“ воден од јазичен модел.

Според Google, овие алатки засега ја жртвуваат прикриеноста за брзината и оставаат траги што полесно се откриваат, но и покрај тоа успешно ги постигнуваат целите. Со подобрите модели, GTIG очекува тие да бидат и поприкриени.

Растот на нападите, пак, е најмногу кај веќе познатите пропусти, кои брзо се искористуваат по објавата на закрпата. Според анализата на GTIG од септември, нападите со вакви пропусти пораснале од просечно 10,5 на 18 месечно, а оние со пропусти од „нултиот ден“ само малку, од 8 на 11 месечно, иако во август скокнале на 22.

Кај пропустите во PHP од октомври, пак, по закрпите се појавиле стотици нефункционални примери за напад, веројатно направени со вештачка интелигенција, кои бранителите морале да ги проверуваат.

Извештајот го опишува и „LLMJacking“, односно кражба на пристап до облак сметки на компании за користење на нивните „AI“ модели. Според Mandiant, во некои случаи лажните трошоци за еден ден надминале 100.000 долари, а во најтешките вкупно достигнале еден милион долари. Украдениот пристап потоа се препродава на форуми на руски и кинески јазик, по цени од 0,10 до 25 долари за милион „токени“.

Севернокорејска група, веројатно MIDNIGHT NEPTUNE, пак, влегувала во криптовалутни компании преку лажни профили на регрутери. Потоа ги менувала поставките на Claude Code во нивните внатрешни репозиториуми, за алатката при стартување сама да презема „backdoor“ наречен SOMBERMEME.

Google го користи извештајот и за да ја промовира услугата Google AI Threat Defense и заштитите во Gemini 4 Carbon, па тој е делумно и реклама за безбедносните производи на компанијата.