Analýza: 75 % Čechů už od AI získaly chybnou odpověď

Informacím vygenerovaným nástroji umělé inteligence důvěřuje polovina Čechů a Češek, jen 16 % z nás si správnost informací vždy ověří. Vyplývá to z nejnovějšího výzkumu společnosti ESET, který byl připravený v aplikaci Instant Research od agentury Ipsos.

Tři čtvrtiny z nás přitom mají zkušenost s tím, že jim AI nástroje poskytly zavádějící či chybné odpovědi. Jen polovina respondentů a respondentek ví o tom, že jim mohou poskytnout odkaz na neexistující, či dokonce škodlivé webové stránky.

Nejvíce s AI nástroji sdílíme své fotografie nebo videa, čtvrtina z nás s nimi sdílí informace o svém zdraví. Bezpečnostní experti přitom varují, že dynamicky se vyvíjející digitální prostředí přitahuje útočníky, kteří mohou AI nástroje využívat ve svých útocích. Mohou také mířit na samotné poskytovatele těchto služeb a na naše data. ESET proto představuje nové Zabezpečení AI v řešeních pro domácnosti a malé a domácí kanceláře (SOHO).

Většina Čechů a Češek již využívá nástroje umělé inteligence (ChatGPT, Copilot, Gemini, Claude apod.). Míra využívání těchto nástrojů roste se vzděláním. Nejvíce tyto nástroje využívají mladší ročníky a lidé z Prahy. Polovina z nás chová k informacím poskytovaným umělou inteligencí důvěru.

Míra deklarované důvěry je ale v kontrastu s tím, jakou máme zkušenost s chybami, které AI nástroje generují – tři čtvrtiny respondentů a respondentek se již setkalo s tím, že jim AI minimálně jednou poskytla chybné informace. Jen polovina uživatelů a uživatelek v Česku pak ví, že jim tyto nástroje mohou poskytnout odkaz na neexistující, či dokonce nebezpečné webové stránky.

„Přestože lidé mají zkušenosti se zavádějícími a chybnými informacemi, podle průzkumu si správnost vygenerovaných odpovědí vždy ověří pouze 16 % uživatelů a uživatelek. Většina dotázaných to dělá nepravidelně,“ říká Jakub Tomanek, kyberbezpečnostní analytik z pražské výzkumné pobočky společnosti ESET. „AI chatboti nám přitom mohou poskytnout vyloženě škodlivou informaci. Útočníci dnes dokážou ukrýt do webového obsahu škodlivé instrukce v různorodé podobě. Chatboti pak při plnění vašeho dotazu nebo úkolu mohou takový obsah zpracovat, což může ovlivnit výslednou odpověď. Riziko je pak ještě větší v případě, kdy využíváte agentní AI, která umí plnit zadané úkoly prakticky bez vašeho dohledu. Umělá inteligence je technologií, která nám může v mnoha směrech usnadnit život. Rozhodně bychom jí ale neměli slepě důvěřovat, protože existuje mnoho aktérů, kteří ji mohou zneužít,“ vysvětluje Tomanek.

Čtvrtina z nás řeší s umělou inteligencí své zdraví

Úplně nejčastěji si pomocí AI nástrojů vyhledáváme informace, necháváme si vysvětlit složitá témata, vypracovávat úkoly nebo tvořit text. Není ani neobvyklé, že s chatboty konzultujeme svá osobní rozhodnutí nebo své zdraví.

„Třetina lidí přiznává, že s AI chatboty sdílí své fotografie nebo videa. Čtvrtina z nás pak s nimi sdílí informace o svém zdravotním stavu – 13 % popisuje svůj psychický stav a obtíže a 12 % sdílí dokonce své lékařské zprávy a jiné zdravotní informace,“ upozorňuje Tomanek. „Osobně bych používání veřejně dostupných AI chatbotů k řešení zdravotních problémů nedoporučoval. Nikdy by neměli nahrazovat odborné lékařské vyšetření. Vedle otázek soukromí a nakládání s citlivými údaji zde existuje i riziko nesprávné interpretace zdravotního stavu nebo symptomů. Odpovědi chatbotů jsou ovlivněny nejen samotným modelem, ale také způsobem jeho nastavení, předchozím kontextem komunikace a formulací vašeho dotazu. Zvláštní opatrnost je na místě u psychických obtíží. Konverzační modely jsou totiž navrženy tak, aby vedly plynulý dialog a byly uživatelsky vstřícné. Tím mohou v některých situacích vytvářet dojem vyšší odbornosti, než jaká jejich odpovědím skutečně náleží,“ dodává Tomanek.

Nejvíce se bojíme deepfakes

Podle výzkumu se lidé nejvíce bojí toho, že AI zneužije jejich vlastní hlas a podobu (44 %) nebo napodobí hlas známého či příbuzného (41 %). Lidé se pak dále obávají, že AI bude figurovat ve vzniku podvodných e-shopů a webových stránek nebo se podílet na přípravě personalizovaných phishingových zpráv v e‑mailech či v SMS.

„Uživatelů a uživatelek jsme se také zeptali, s jakými podvody, ve kterých figurovala AI, se již setkali. Nejvíce odpovědí jsme zaznamenali u upravených videí či fotografií známých osobností. Pětina dotázaných také uvedla, že se již setkala s falešnými profily na sociálních sítích,“ říká Tomanek. „Útoky pomocí tzv. technik sociálního inženýrství jsou bohužel další velkou oblastí, kterou nástup umělé inteligence proměňuje. Využívání nových technologií tyto přesvědčivé a manipulativní útoky zrychluje a usnadňuje. Podvodné zprávy i obsah na internetu je bohužel stále těžší rozeznat. Útokům také čelí samotní poskytovatelé nejznámějších AI nástrojů, kdy útočníci mohou vytvořit falešnou verzi aplikace a vložit do ní malware. Nadále tak rozhodně platí věnovat maximální obezřetnost veškeré nevyžádané komunikaci, nestahovat aplikace mimo oficiální obchody s aplikacemi a využívat renomovaný bezpečnostní software,“ dodává Tomanek z ESETu.

ESET rozšiřuje svou nabídku pro domácnosti o nové Zabezpečení AI

AI technologie dynamicky proměňují podobu současných kybernetických hrozeb. Společnost ESET proto představuje novinky v řešeních ESET HOME Security pro domácí uživatele a ESET Small Business Security pro uživatele v segmentu malých a domácích kanceláří (SOHO). Nové funkce nabídnou lepší ochranu před podvody, včetně stále sofistikovanějších podvodů využívajících umělou inteligenci, škodlivými odkazy a nově vznikajícími hrozbami zaměřenými na AI nástroje.