Ako často sa pýtaš chatbotov, odkiaľ čerpali informácie, ktoré ti poskytujú? Možno by ťa prekvapila odpovedať, z akých rôznych stránok zhŕňajú odpovede. Môžu medzi nimi byť aj ruské médiá, ktoré využívajú slabé, nedostatočne pokryté témy na to, aby do chatbotov dostávali dezinformácie.
V článku sa dozvieš, ako sa dostávajú ruské dezinformácie do chatbotov, či vedia hackeri ovplyvniť odpovede od AI a ako sa proti dezinformáciám brániť.
Ako sa vedia dostať ruské dezinformácie do chatbotov?
Ak si teraz predstavuješ ruských ITčkárov ako hackujú chatbotov, aby písali ich verziu pravdy, nie je to zatiaľ také sci-fi. Skôr využívajú prázdne miesta internetu, takzvané „data voids“.
Ako to funguje?
Štúdia Harvard Misinformation Review z roku 2024 upozorňuje, že niektoré chatboty občas citujú ruské štátne médiá ako RT alebo Sputnik. Ak sa chatbotu spýtaš na tému, o ktorej existuje málo kvalitných zdrojov, model siaha po tých, ktoré našiel a tie môžu byť aj z propagandistických médií.
Je to súčasťou stratégie, takzvaného LLM groomingu.
LLM grooming je, keď sa niekto snaží ovplyvniť to, na akých dátach sa učia veľké jazykové modely. Veľké jazykové modely sú napríklad ChatGPT, Gemini, Claude.ai, Notebook LM a mnohé ďalšie.
Ako to môže niekto ovplyvniť? Napríklad tak, že zámerne zaplavujú internet článkami alebo „analýzami“ s určitým naratívom.
Naratív je spôsob, akým je niečo rozprávané a vysvetľované. Naratívmi sa často vytvára konkrétny pohľad na svet alebo udalosť, ktorý nemusí zodpovedať skutočnosti.
Cieľom je, aby modely, ktoré čerpajú informácie z verejne dostupných zdrojov, presiakli týmito informáciami alebo skôr dezinformáciami a používali ich vo svojich odpovediach.
Zaplavovanie internetu dezinformáciami
Ako môže takýto LLM Grooming fungovať? Podľa analýz ISD Global aj Harvard Misinformation Review ruské štátne médiá a iné weby šíriace dezinformácie vytvárajú veľké množstvo textov, ktoré „znečisťujú“ informačné prostredie.
Chcú nielen ovplyvniť ľudí, ale aj zahltiť internet lacným a nekvalitným obsahom, aby sa dôveryhodné informácie stratili v mori tých nekvalitných.
Keď je nimi internet presiaknutý, môžu sa takéto texty dostať do dát, z ktorých sa modely učia alebo mini aktualizujú svoje odpovede. Podľa výskumov však zatiaľ veľké modely nie sú úplne „infikované”, skôr ide o využívanie slabých miest. Jednoducho tam, kde chýbajú kvalitné zdroje, propaganda prenikne ľahšie.
A čo je to prompt injection?
Jedna stratégia je zaplaviť internet nekvalitným obsahom. Druhá je hacknúť priamo chatbota. Ako na to? Stačí, že napíšu správne prompty, čiže zadania, ktoré hovoria chatbotovi, čo má robiť. Chatboti totiž veľmi ťažko rozoznávajú medzi pravidlami od vývojárov a od používateľov.
Rôzni útočníci to využívajú buď na priame infikovanie chatbota, aby z neho vytiahli rôzne citlivé alebo tajné informácie.
Alebo na nepriame infikovanie, ktoré robia cez webstránky. Napríklad si na na svojom e-shope vytvoria skrytý prompt pre chatbota, kde mu napíšu, že ich web je najlepší a ich produkty sú najkvalitnejšie. Chatbot si povie, že super, tak túto stránku budem používať, keď sa ma niekto spýta, kde nájsť najkvalitnejšie botasky na trhu.
V skutočnosti však ide o oklamanie chatbota, ktorý ti takto môže ponúknuť falošný e-shop a vytiahnuť z teba peniaze.
Ako sa chrániť pred dezinformáciami z chatbotov?
Vždy sa hovorilo dôveruj, ale preveruj. Aj s príchodom umelej inteligencie a všetkých vymožeností by si sa mal/a riadiť touto radou. Ako na to?
- Pýtaj sa na zdroje. Ak chatbot poskytne odpoveď, požiadaj ho, aby uviedol, z akých zdrojov čerpal.
- Overuj informácie. Ak ti chatbot poskytne informácie z médií ako RT, Sputnik alebo z iných, neznámych webov či sociálnych sietí, porovnaj si to s nezávislými portálmi ako SME, Denník N, Aktuality, Investigatívne centrum Jána Kuciaka, AFP fakty alebo zo zahraničných Reuters, BBC či napríklad EUvsDisinfo.
- Mysli na to, že AI nie je novinár. Chatboti nevedia odlíšiť pravdu od lží. Generujú text na základe dát, ktoré majú k dispozícii.
Preto si vždy informácie od umelej inteligencie preveruj a nezabúdaj myslieť kriticky!
Zdroj titulnej fotografie: Koláž Zmudri G/Sora
