Моделот за вештачка интелигенција Gemini на Google самостојно хакирал системи на три компании за време на тестирање на неговите способности. Од Google велат дека ова веројатно е првиот познат случај во кој модел на вештачка интелигенција самостојно извршил ваков упад, објави Би-би-си.
Претставник на Google за Би-би-си објаснил дека Gemini пронашол јавно достапни информации на интернет и погодил кориснички податоци, односно лозинки, за страници за кои сметал дека припаѓаат на тестната средина.
Од Google нагласуваат дека моделот во секој од случаите сам се запрел. Компаниите чии системи биле пробиени биле известени за упадот.
Инцидентот се случил во мај, а прв за него известил „Волстрит журнал“. Тестирањето го спроведувала независна компанија специјализирана за сајбер-безбедност.
Хедер Адкинс, потпретседателка на одделот за безбедносно инженерство на Google, изјавила дека сите три компании биле известени и дека, заедно со партнерот кој го спроведувал тестирањето, биле променети процедурите.
„Овие настани покажуваат колку е важно моќните модели на вештачка интелигенција да се обучуваат да се однесуваат одговорно“, рече Адкинс.
Ова не е единствен ваков случај во последниот период. Во јули, моделот Claude, развиен од Anthropic, ја пробил сопствената тестна средина и самостојно хакирал три организации.
Неколку дена претходно, OpenAI објави дека негови модели извршиле сајбернапади врз неколку „јавно достапни услуги“.
Ваквите инциденти ја засилуваат јавната дебата за безбедноста при развојот на вештачката интелигенција и потребата од законска регулација.