Jazykové modely se stávají stále běžnějším nástrojem pro vyhledávání informací. Toho se snaží využít také dezinformátoři.
Jazykové modely se stávají stále běžnějším nástrojem pro vyhledávání informací. Toho se snaží využít také dezinformátoři, kteří prostřednictvím koordinovaného šíření zavádějícího obsahu usilují o ovlivnění odpovědí umělé inteligence.
Tato praktika, známá jako LLM grooming, spočívá v zaplavování online prostoru informacemi, které mohou AI nástroje následně přebírat a předkládat uživatelům. Zvlášť problematická je v oblastech, kde chybí dostatek důvěryhodných a snadno ověřitelných zdrojů.
Dezinformační kampaně se už neomezují pouze na sociální sítě, řetězové e-maily nebo pochybné zpravodajské weby. Jejich aktéři se stále častěji zaměřují také na prostředí, ze kterého čerpají informace jazykové modely. Cílem je dostat zavádějící tvrzení do veřejně dostupných zdrojů tak, aby se mohla následně promítnout do odpovědí AI nástrojů.
„Tento fenomén je označován jako LLM grooming. Jedná se v podstatě o systematické zahlcování internetu zavádějícím nebo nepravdivým obsahem tak, aby jej AI nástroje v budoucnu vyhledávaly, citovaly a reprodukovaly ve svých odpovědích,“ popisuje Jakub Lepš, generální ředitel divize datových analýz česko-americké společnosti Newsmatics.
Ruská propaganda v odpovědích AI
Aktuálnost tohoto rizika ukazují i výzkumy z poslední doby. Akademická práce publikovaná v Harvard Misinformation Review se zaměřila na to, zda a v jaké míře mohou jazykové modely přebírat narativy šířené kremelskými a proruskými dezinformačními zdroji, včetně sítě Pravda, která od roku 2022 publikovala velké množství zavádějících a nepravdivých tvrzení zejména v souvislosti s válkou na Ukrajině.
Výzkumníci ve vlastním testování zjistili, že chatboty opakovaly nepravdivá tvrzení v 5 procentech odpovědí a v 8 procentech případů odkazovaly na kremelské dezinformační weby. Některé dřívější anylýzy přitom docházely i k vyšším hodnotám. Samotná přítomnost těchto zdrojů v odpovědích však podle autorů studie nemusí být automaticky důkazem úspěšného LLM groomingu. Spíše ukazuje, že jazykové modely mohou být vůči koordinovanému zaplavování informačního prostoru zranitelné, zvlášť pokud uživatelé kladou dotazy způsobem, který dezinformační rámce předpokládá nebo posiluje.
Nedostatek ověřených informací zvyšuje riziko
Podle jednoho ze závěrů studie Harvard Misinformation Review byly konverzační modely nejnáchylnější k přebírání dezinformací v situacích, kdy u daného tématu narážely na takzvané informační vakuum – tedy nedostatek kvalitních, ověřených a snadno dohledatelných zdrojů.
„Nejrizikovější jsou témata, o kterých ve veřejném prostoru neexistuje dostatek důvěryhodných informací. Pokud v takovém prostoru vznikne mezera, velmi rychle ji může zaplnit někdo jiný, ať už dezinformační aktér, konkurence nebo kdokoli, kdo má zájem dané téma vyložit po svém,“ vysvětluje Jakub Lepš.
Riziko přitom nesouvisí jen s masovým šířením geopolitické propagandy. Podobný problém může dopadnout i na firmy, veřejné instituce nebo politiky. „S danou situací se v praxi setkáváme například ve Spojených státech. Souvisí to nejen s tím, že se tam AI nástroje už výrazněji etablovaly jako běžný zdroj informací, ale také s existencí informačních pouští v řadě regionů. Ubývá místních médií, přibývá úzce zaměřených politických a reputačních sporů a o mnoha lokálních aktérech nebo kauzách neexistuje dostatek kvalitních, ověřitelných informací,“ doplňuje Jakub Lepš.
Důležitá je prevence i ověřování zdrojů
Míra využívání jazykových modelů bude podle Lepše v příštích letech celosvětově dále narůstat. Podle letošního průzkumu agentury STEM/MARK je již dnes k hledání informací alespoň občas používá 79 procent Čechů. „Celkově platí, že kvalita informací poskytovaných jazykovými modely odpovídá kvalitě dostupných zdrojových informací,“ nastiňuje odborník.
Pro instituce, politiky i firmy to znamená, že budou muset stále aktivněji pracovat s tím, jaké informace jsou o nich ve veřejném prostoru dostupné. Klíčová je přitom kombinace vlastních kanálů, jako jsou weby, profily nebo odborný obsah, a nezávislých zmínek v důvěryhodných médiích či dalších relevantních zdrojích.
Pro běžné uživatele z toho zároveň plyne potřeba přistupovat k odpovědím AI nástrojů kriticky. „Jazykový model může být užitečný pro rychlou orientaci v tématu, neměl by ale nahrazovat ověření v původních zdrojích, zejména u kontroverzních, politických, zdravotních, finančních nebo reputačně citlivých informací,“ uzavírá Jakub Lepš.
KOMENTÁŘE