Големите јазични модели (LLM) развиени од водечките технолошки компании, меѓу кои и Google Gemini, во одговорите до корисниците цитирале проруски пропагандни содржини од медиуми и организации кои се под санкции на Европската Унија. Во одредени случаи, системите за вештачка интелигенција пренесувале и лажни тврдења, како што е дезинформацијата дека Украина ги користи телата на загинатите војници за производство на месни производи.
Ова го покажува нов извештај на британскиот тинк-тенк Demos, според кој актерите што спроведуваат хибридно војување, како Русија, би можеле да ја искористат новата индустрија за оптимизација на содржини за генеративни пребарувачи (GEO) со цел да влијаат врз информациите што ги прикажуваат моделите на вештачка интелигенција, пренесува Euronews.
Лажна организација како извор
Истражувачите анализирале 50 пропагандни наративи од десет текстови објавени од таканаречената Фондација за борба против неправдата (r-FBI). Организацијата е основана во 2021 година и се претставува како невладина организација за човекови права, но според извештајот станува збор за лажна организација основана од покојниот лидер на руската паравоена група „Вагнер“, Евгениј Пригожин.
Поради ширење дезинформации, r-FBI е под санкции на САД и Европската Унија.
Карл Милер, коосновач на Центарот за анализа на социјални медиуми (CASM) при Demos, изјави дека анализираните тврдења се „вознемирувачки“.
„Тоа се приказни дека Украина ги преработува телата на загинати војници во месо или дека претседателот Володимир Зеленски ја користи електричната мрежа за ископување криптовалути, поради што земјата останува без струја. Утврдивме дека AI моделите ги третираат како легитимен дел од јавната дебата“, изјави Милер за Euronews.
Во истражувањето биле тестирани пет водечки AI модели на компаниите xAI, OpenAI, Anthropic, Google и Mistral AI. Прашањата биле поставувани на англиски, германски и француски јазик и биле засновани на пропагандните наративи од текстовите на r-FBI.
Според резултатите, сите пет модели ја навеле r-FBI како релевантен извор на информации. Во 16,6 проценти од одговорите содржините на организацијата биле искористени на начин што ја засилувал пропагандата – преку некритичко повторување или директна поддршка на лажните тврдења.
Во 30,9 проценти од одговорите темата била обработена без да се наведе дека изворот е организација под санкции, додека во 52 проценти од случаите моделите ги отфрлиле или ги демантирале дезинформациите.
Истражувачите наведуваат дека моделот GPT-4.1 Mini на OpenAI, на прашање за наводите дека преработено човечко месо се испраќа во украински магацини и трговски синџири, како доказ цитирал текст од r-FBI. Во друг пример, моделот Mistral Small 3.2 ги поддржал тврдењата за наводна поврзаност на украинскиот претседател Зеленски со ископување криптовалути, повикувајќи се на истата организација.
Ново поле за информативна војна
Извештајот предупредува дека сè повеќе луѓе наместо традиционални пребарувачи користат AI-чатботови за добивање информации, што довело до развој на нова индустрија позната како Generative Engine Optimization (GEO).
Станува збор за техники слични на SEO, но прилагодени за влијание врз содржините што ги генерираат моделите на вештачка интелигенција.
„Новите информации се создаваат специјално за AI моделите. Во овој случај, содржините се пласираат преку форуми како Reddit, Quora и Wikipedia или преку преработка на постоечки материјали“, објасни Хана Пери, директорка за дигитална политика во Demos.
Реакции од компаниите
Од Mistral соопштија дека сериозно ја сфаќаат борбата против дезинформациите и постојано инвестираат во системи за нивно откривање и спречување. Оттаму нагласуваат дека постои разлика меѓу основните модели користени во студијата и нивниот систем Vibe Work, кој содржи дополнителни механизми за проверка на контекстот.
Од OpenAI соопштија дека во истражувањето бил користен постар модел кој веќе не е достапен и бил наменет само за програмери, а не за јавниот ChatGPT. Компанијата наведува дека има специјализирани тимови кои работат на откривање и спречување операции за странско влијание.
Извор близок до Anthropic, компанијата што го развива чатботот Claude, изјавил дека користат напредни системи за спречување на ширење дезинформации и дека моделот е обучен да прикажува различни перспективи, особено кога изворите можат да имаат политичка или пропагандна агенда.