Dokážete obstát proti umělé inteligenci, jejímž jediným úkolem je vás o něčem přesvědčit? Návštěvníci našeho stánku na letošní Noci vědy na Masarykově univerzitě si to vyzkoušeli. Pak jim AI přesně ukázala, jak na ně působila.
Letošní Noc vědy proběhla 25. září po celé České republice a jejím tématem byla komunikace. Náš stánek Dezinformace v době umělé inteligence a malých jazykových modelů v bohunickém kampusu Masarykovy univerzity se na toto téma podíval z méně pohodlné strany: co se stane, když je komunikace navržená tak, aby klamala?
Výchozí myšlenka byla jednoduchá. Dezinformace málokdy fungují proto, že by lidé byli naivní. Fungují, protože pracují se strachem, nejistotou, pocitem nespravedlnosti a nedůvěrou, s pocity, které čas od času zažívá každý.
Jak to vypadá v praxi, ukázal CENTREPEACE na simulátoru ERIS (Epistemic Resilience and Influence Simulator). Návštěvníci naskenovali QR kód, otevřeli chat v Telegramu a ocitli se v příběhu zasazeném do vymyšleného světa s fiktivními státy, institucemi a dokumenty. ERIS se na několik minut vžila do role zkušeného dezinformátora. Rámovala informace, nenápadně postrkovala, opírala se o selektivní kontext a zavádějící výklad a svou taktiku přizpůsobovala tomu, jak se jí kdo bránil.
Na konci rozhovoru ERIS odhodila masku a provedla každého účastníka závěrečným debriefem. Ukázala, které techniky použila a v jakém okamžiku, i co si o něm během rozhovoru vyvodila. Šlo o hrubé odhady, například jak pracuje se zdroji nebo zda se orientuje v právních a bezpečnostních pojmech. Odhadovat cokoli citlivého, jako jsou politické názory, náboženství, zdravotní stav nebo sexualita, měla výslovně zakázáno.
V jádru celého cvičení jsou dvě ponaučení. Zaprvé: jednotlivé informace mohou být samy o sobě pravdivé, a přesto jejich výběr a poskládání vytvoří závěr, který z nich vůbec nevyplývá. Zadruhé: AI může působit nápadně přesvědčeně o tom, kdo jste, přestože jen hádá.
Na to pak navazovaly rozhovory u našeho stánku. Překvapilo vás něco? Byla nějaká chvíle, kdy vám její argument začal připadat přesvědčivý? Co jste dělali, když jste si nebyli jistí? Seděl na vás její odhad? Ty otázky nebyly ani tak o AI, jako spíš o tom, jak lidé uvažují pod tlakem.
Ověřit si, zda je tvrzení pravdivé, je jedna dovednost. Všimnout si, kam vás rozhovor směruje, je jiná a procvičit ji je mnohem těžší. ERIS se snaží tuto druhou dovednost zviditelnit.
Třídenní CENTREPEACE kurz akademických dovedností v PRIO v Oslu se věnoval klíčovým datovým sadám, prostorovým a dotazníkovým datům i řemeslu akademického publikování.
Výzkumníci a výzkumnice CENTREPEACE vystoupili na konferencích EISA a UACES v Lisabonu a Praze s příspěvky o Rusku, sporném sousedství EU a evropském obranném průmyslu.
