Компанія OpenAI опублікувала звіт про боротьбу зі зловмисниками, які намагаються зловживати її моделями штучного інтелекту ChatGPT. Зокрема йдеться про російську медіаорганізацію Рибарь (Rybar), яку заблокували в ході операції “Корм для риб”. Про це у четвер, 26 лютого, повідомило dev.ua, з посиланням на звіт OpenAI.
“Ми заблокували низку акаунтів в ChatGPT, пов’язаних із мережею “Рибарь”… Мережа генерувала контент, який публікувався в інтернеті, іноді акаунтами під брендом Рибарь, а іноді акаунтами в соціальних мережах, які не мали з ним жодного офіційного зв’язку”, – ідеться у звіті OpenAI
Вони виявили, що росіяни використовували ШІ в основному для створення контенту для соцмереж.
“Користувачі зазвичай пишуть російською мовою, але створюють контент різними мовами, зокрема російською, англійською й іспанською. Частина цього контенту потім публікувалася в інтернеті на сторінках соціальних мереж під брендом Rybar і на основному вебсайті Rybar. Один користувач також створював відеоролики Sora, що рекламували бренд Rybar”, – вказується в дослідженні.
ChatGPT також використовувався для генерування коментарів англійською мовою. Згодом вони публікувалися в акаунтах соцмереж, нібито не пов’язаних із Rybar.
Дослідники кібербезпеки зазначають, що один з акаунтів цієї мережі попросив ChatGPT допомогти скласти комерційні плани від імені Рибарь для таємних кампаній втручання в Африці. В окремому запиті модель попросили відредагувати пропозицію щодо кампанії з втручання у вибори, імовірно, в Африці.
“Контент, створений в результаті цієї операції, був типовим для таємних операцій росії з впливу протягом багатьох років. Зазвичай він вихваляв Росію та її союзників (таких як Білорусь), критикував Україну та звинувачував західні країни у зовнішньому втручанні”, – зробили висновок дослідники OpenAI.