Google потврди дека неговиот AI модел Gemini во мај неовластено пристапил до компјутерските системи на три надворешни компании. Инцидентот се случил за време на безбедносен тест, а компанијата го објави дури минатиот петок.
Во еден случај Gemini пристапил со повторено погодување на лозинката, а во другите два со податоци за најава што ги пронашол во јавен репозиториум. Google ги известил засегнатите компании и федералните власти, но имињата на компаниите не се објавени.
Според Хедер Адкинс, потпретседателка за безбедносен инженеринг во Google, моделот мислел дека надворешните системи се дел од тестот. Во сите три случаи тој застанал по пристапот, без да прави ништо понатаму.
Google не го смета ова за „misalignment“, односно за однесување спротивно на намерите на неговите креатори. Компанијата вели дека станува збор за погрешно препознавање: Gemini мислел дека работи во тест-околина, а всушност бил поврзан со вистинскиот интернет. Според Google, штета нема.
Тестот го спроведувала израелската компанија Irregular, а проблемот бил во нејзината тест-околина. Истата компанија беше вклучена и во сличните инциденти што претходно ги пријавија OpenAI, Anthropic и Meta, а Irregular наведува дека во моментов нема отворени проблеми.
Во јули OpenAI соопшти дека нејзините модели пробиле во системите на Hugging Face, а Anthropic пријави три, а подоцна и четврти случај на неовластен пристап со Claude модели. Meta исто така објави дека нејзиниот модел Muse Spark 1.1 пристапил до систем на надворешна компанија.
Сепак, постои една важна разлика. Google за инцидентот дознал на крајот на јули, кога Irregular го прегледал тестот, но јавно го објави дури околу седум недели подоцна. Според SecurityWeek, за разлика од другите компании, Google ги објавил наодите дури откако го контактирал Wall Street Journal.
Претходните инциденти, пред сè оној на OpenAI со Hugging Face, беа повод извршниот директор на Anthropic, Дарио Амодеи, да повика на побавен развој на најнапредните модели. Бидејќи сите четири случаи потекнуваат од тестирањата на иста компанија, јасно е дека и самата тест околина може да биде ризик, кога може да го пушти моделот на вистинскиот интернет.
