ChatGPT bol zneužitý na šírenie dezinformácii a hoaxov. OpenAI zasiahla

ChatGPT sa stáva všadeprítomným nástrojom, dokonca aj vo sfére volieb. Iránski aktéri využili možnosti jazykového modelu ChatGPT na vytváranie veľkého množstva presvedčivého, no falošného obsahu.

Firma OpenAI, ktorá stojí za ChatGPT, v reakcii na tieto skutočnosti priznala, že identifikovala a zablokovala niekoľko účtov zapojených do tejto kampane, ktorá sa zameriavala na produkciu rozsiahlych dezinformačných článkov a komentárov na sociálnych médiách.

„Objavili sme spojenie medzi zablokovanými účtami a sofistikovanou iránskou dezinformačnou operáciou známou ako Storm-2035,” uvádza OpenAI vo svojom blogu.

OpenAI says Iran tried to influence US elections with ChatGPT https://t.co/trVhgQmttV

— The Verge (@verge) August 16, 2024

Analýza dát naznačuje, že iránska dezinformačná kampaň pravdepodobne nedosiahla významný vplyv na verejnú mienku, keďže nezískala širokú pozornosť ani angažovanosť používateľov.

Podobný incident sa pritom odohral už v máji tohto roku, keď boli odhalené pokusy manipulovať verejnosť prostredníctvom umelej inteligencie. Vtedy bola kampaň zameraná na šírenie proizraelských naratívov na platformách Instagram a Facebook.

„S blížiacimi sa americkými prezidentskými voľbami narastá riziko pokusov ovplyvniť ich výsledky,” upozorňuje portál TheVerge.

Súčasne, minulý týždeň bývalý prezident Donald Trump oznámil, že aj jeho kampaň čelila kybernetickému útoku, pričom incident spájal s phishingovým e-mailom od iránskej hackerskej skupiny. FBI zároveň potvrdila, že pokusom hackerov čelila aj kampaň protikandidátky Harrisovej.

Zdroje: TheVerge