OpenAI poinformowało we wtorek o zamknięciu kont ChatGPT działających z Rosji, po wykryciu „tajnej operacji wpływu”. Według firmy wykorzystano sztuczną inteligencję do promowania rzekomego think tanku oraz przekazów korzystnych dla Moskwy.
Amerykańska firma zajmująca się sztuczną inteligencją ustaliła, że konta służyły do tworzenia treści publikowanych w mediach społecznościowych i promujących International Burke Institute (IBI). Organizacja przedstawiała się jako „społeczność ekspertów” z siedzibą w Izraelu.
Treści tworzone za pomocą ChatGPT
Śledztwo rozpoczęło się od analizy wpisów wygenerowanych przy użyciu sztucznej inteligencji. OpenAI odkryło jednak szerszą działalność obejmującą kopiowanie i błędne przypisywanie autorstwa prac naukowych, stworzenie indeksu „suwerenności” przedstawiającego Rosję w pozytywnym świetle oraz działania mające ukryć rosyjskie pochodzenie osób stojących za operacją.
Według firmy operatorzy wpisywali polecenia w języku rosyjskim, aby tworzyć przede wszystkim komentarze po angielsku. Następnie publikowano je na platformach Substack, Telegram, X, Facebook i LinkedIn.
Osoby stojące za operacją miały również polecać ChatGPT usuwanie elementów językowych, które mogłyby wskazywać na ich rosyjskojęzyczne pochodzenie.
OpenAI ustaliło, że operatorzy korzystali z wirtualnych sieci prywatnych, czyli VPN, ponieważ usługi firmy nie są dostępne w Rosji.
Znaczna część wygenerowanych treści służyła promocji IBI oraz artykułów publikowanych na stronie organizacji, która została zarejestrowana w lutym 2025 roku.
OpenAI przeanalizowało 36 artykułów przypisanych ekspertom przedstawianym na stronie. Jak ustalono, 34 z nich zostały skopiowane z innych źródeł. Część tekstów miała nieprawidłowo przypisanych autorów, a inne wyglądały na przetłumaczone automatycznie z jednego z języków słowiańskich.
Ustalono również, że narzędzia firmy wykorzystywano do tworzenia wpisów w języku niemieckim, które krytykowały Ukrainę, Unię Europejską i niemiecki rząd. Jednocześnie treści te promowały zacieśnienie relacji z Rosją.
Kanały dotyczące Europy i Stanów Zjednoczonych
Narzędzia OpenAI wykorzystano również do tworzenia logotypów dla około 12 kanałów na Telegramie poświęconych m.in. Niemcom, Stanom Zjednoczonym, Francji, Polsce i Turcji.
Według OpenAI bezpośredni wpływ operacji był jednak ograniczony. Większość publikowanych materiałów w mediach społecznościowych miała niewielką liczbę wyświetleń, a oficjalne konta IBI przyciągały małe grono odbiorców.
Niektóre powiązane z operacją kanały na Telegramie miały jednak od 10 tys. do 20 tys. subskrybentów.
Jak oceniono, istotnym elementem operacji było stworzenie pozornie wiarygodnej struktury instytucjonalnej. Zdaniem firmy taki model mógłby w przyszłości służyć do budowania sztucznego autorytetu, zacierania źródeł określonych przekazów oraz docierania do większej liczby odbiorców.
