Nejlepší přítel bývá ten, kdo nám dává za pravdu. A co když je to AI?

Ne vždy hledáme pravdu. Často spíš někoho, kdo nám potvrdí, že jsme ji už našli. V partnerských vztazích to může být občas zdrojem konfliktů, v politice receptem na rozdělenou společnost a v éře umělé inteligence možná i začátkem nového druhu závislosti.

Představte si, že se pohádáte s partnerem. Vy jste samozřejmě měli pro svůj názor dobré důvody, druhá strana však byla trochu přecitlivělá, nespravedlivá a patrně si i špatně pamatovala, co se vlastně stalo. O hádce se můžete svěřit přátelům, někdy však hrozí nepříjemná komplikace. Někteří vás znají příliš dobře a mohou se odvážit naznačit, že jste k problému tak trochu přispěli i vy.

A tak otevřete umělou inteligenci. Napíšete jí svou verzi událostí, pečlivě vyberete okolnosti, které vás stavějí do příznivého světla, a čekáte na odpověď. AI vás vyslechne, uzná vaše pocity a nabídne vysvětlení, proč se partner zachoval tak nešťastně. A možná vám doporučí, abyste si „stanovili zdravé hranice“ a „nenechali se manipulovat“. Konečně někdo rozumný!

Stejnou hádku však může své AI popsat i váš partner. Samozřejmě ze svého pohledu a s důrazem na vaše nepříjemné vlastnosti. A dost možná se mu dostane stejně chápavé odpovědi.

Výsledkem je tak pozoruhodná situace: dva lidé, kteří se nedokážou shodnout, získají svého neúnavného digitálního poradce. Poradce, který jim nabídne pochopení a pocit, že jejich stanovisko je oprávněné. Oba se tak mohou vrátit k hádce s ještě větší jistotou, že chyba je na druhé straně.

Umělá inteligence tak může dosáhnout něčeho, co se dosud dařilo především nejbližším přátelům: přesvědčit nás, že jsme v právu, aniž by znala druhou stranu příběhu.

Nechceme vždy pravdu

Sociální psychologie tento sklon zná už dlouho. Jedním z jeho projevů je tzv. konfirmační zkreslení: tendence vyhledávat a lépe přijímat informace, které potvrzují naše dosavadní názory. Protiargumenty naopak zkoumáme přísněji, hledáme v nich chyby a někdy je odmítneme dřív, než si je vůbec vyslechneme.

Jan Urban

• Je autorem řady publikací, letos publikoval na téma Ekonomické instinkty, jež hrají roli v našem rozhodování.

• Z článků, které několik let publikuje na iDNES.cz, vznikla také jeho kniha Psychologie pro každý den

• Věnuje se personálnímu a manažerskému poradenství a firemnímu vzdělávání.
• Je absolventem VŠE Praha a Filozofické fakulty UK, obor psychologie práce a řízení.

Nejde jen o politiku nebo odborné spory. Jsme-li přesvědčeni, že kolega je neschopný, jeho chyb si všímáme okamžitě a jeho úspěchy považujeme za náhodu. A věříme-li, že nás partner nedoceňuje, můžeme si během jediného dne všimnout pěti projevů jeho nezájmu a přehlédnout deset drobných projevů náklonnosti.

Náš mozek totiž není nezaujatý soudce, který nestranně vyhodnocuje všechny důkazy. Je i obhájcem našeho vlastního příběhu. A někdy obhájcem velmi schopným: umí najít přesvědčivý argument téměř pro cokoli, co jsme si už předem usmysleli.

Psychologové hovoří i o tzv. motivovaném uvažování. Spočívá v tom, že informace někdy nezpracováváme proto, abychom zjistili, co je pravda, ale abychom dospěli k závěru, který si přejeme. Když se nám něco nepovede, hledáme okolnosti, které nás omlouvají. Když uspějeme, rádi v tom vidíme důkaz svých schopností. Laická psychologie tomu říká „přání je otcem myšlenky“.

Určitá míra sebeobhajoby je důležitá: pomáhá nám si udržet psychickou rovnováhu. Problém nastává, když se z ní stane náš hlavní způsob vidění světa. Naše pravda totiž někdy neznamená jen to, že jsme se mýlili, ale i to, že jsme někomu ublížili nebo přehlédli něco důležitého.

Dobrým partnerem či nejlepším přítelem se však často stává ten, kdo našim názorům či pohledům přitakává.

Upalování čarodějnic, Brusel i AI: Proč lidská mysl snadno podléhá masovým halucinacím?

Digitální poradce, který nikdy nemá špatný den

Představme si, že se AI stane běžnou součástí našeho soukromého života. Bude znát naše pracovní problémy, partnerské hádky i obavy, které bychom se styděli svěřit kamarádům. Bude dostupná ve dne v noci, a nebude nás přerušovat vlastním příběhem o tom, jak to měla v životě těžké ona.

To všechno jsou skutečné výhody. Pro člověka, který je osamělý nebo potřebuje utřídit myšlenky, může být rozhovor s AI užitečným prvním krokem. Může pomoci pojmenovat emoce, připravit se na obtížný rozhovor nebo se podívat na problém z více stran.

Jenže lidské vztahy mají vlastnosti, které digitální poradce nezná. Druhý člověk má vlastní potřeby, hranice a zkušenosti. Nemůžeme ho jednoduše nastavit tak, aby s námi souhlasil. Musíme se učit naslouchat a přijímat skutečnost, že někdo může mít jiný pohled na svět, aniž by nás tím chtěl ponížit.

AI nám může nabídnout rozhovor bez tření. A právě to může být její největší předností i slabinou. Pokud si totiž zvykneme na vztah, v němž se nemusíme přizpůsobovat druhému, může nám skutečný člověk začít připadat nepříjemně komplikovaný. Má totiž tu drzost, že zcela nerespektuje naše potřeby.

Výzkum vztahu mezi „přehnaně souhlasnou AI“ a lidskými vztahy naznačuje, že opakované používání takových systémů může skutečně některé lidi vést k tomu, aby u nich vyhledávali osobní radu stejně často jako od svých blízkých. A možná i častěji. Zatím jde o předběžná zjištění, nikoli důkaz dlouhodobých následků. Přesto upozorňují na možný problém: čím snadněji získáváme pocit pochopení od stroje, tím náročnější nám mohou připadat nedokonalé vztahy s lidmi.

Když se AI stane naším nejlepším obhájcem

Představme si tak i člověka, který má ve vztazích dlouhodobé problémy a s AI se radí pravidelně. Každý konflikt popisuje ze svého pohledu a dostává empatické odpovědi. Postupně si může vytvořit přesvědčení, že jeho okolí je necitlivé, sobecké nebo neschopné komunikace.

Ze strany AI přitom nemusí jít o záměrnou manipulaci. Stačí, že model příliš ochotně přijímá výchozí rámec, který mu uživatel předkládá. Pokud se navíc člověk naučí formulovat otázky tak, aby získal požadovanou odpověď, může se z rozhovoru stát jen sofistikovanější obdoba hledání potvrzení, namísto jeho jednoduchého hledání na internetu.

Důležité to však může být i mimo partnerské vztahy. V politice může AI pomáhat obhajovat naše názory, ve firmách potvrzovat manažerská rozhodnutí. Pokud tak každý dostane digitálního poradce, který vychází především z jeho vlastní verze událostí, nemusíme získat více porozumění. Můžeme získat jen lépe argumentující protivníky.

Neznamená to, že by to byl důvod k závěru, že AI bude společnost rozdělovat. Může upozorňovat i na chybějící informace, nabízet alternativní interpretace a připomínat, že každý konflikt má více perspektiv. Rozhodující bude, zda ji budeme používat jako nástroj k přemýšlení, nebo jako digitálního advokáta, který má potvrdit naši nevinu.

Glosa: Věk moudrosti, aneb když tělo už tolik neposlouchá, ale má zato vlastní názor

Co z toho plyne pro samotnou AI?

Vývojáři tak stojí před obtížným úkolem. Příliš chladný systém, který osobní otázku odbude konstatováním, že nemá dostatek informací, nebude lidem příliš užitečný. Člověk, který se AI svěří s bolestivým problémem, potřebuje i citlivost.

Na druhé straně AI, která se snaží působit za každou cenu chápavě, riskuje, že svou empatii zamění za souhlas. Skutečná empatie totiž neznamená každé naše přesvědčení potvrdit. Znamená snažit se porozumět, co prožíváme, nikoli však nutně přijmout všechny naše závěry.

Dobrá odpověď by proto mohla znít: „Chápu, proč vás to rozzlobilo. Z toho, co popisujete, ale zatím nelze poznat, zda vás partner chtěl skutečně ponížit. Zkusme oddělit, co se stalo, od toho, jak jste si jeho jednání vyložil.“ Taková odpověď může být méně příjemná než jednoznačné přitakání. Z dlouhodobého hlediska však může být užitečnější.

Pro AI tak z toho plyne dilema. Bude-li příliš souhlasná, může získat více příznivců, bude-li tu a tam odporovat, budou ji lidé možná používat méně. Výzvou je najít mezi podporou a pravdivostí rovnováhu, a najít tak i odvahu nesouhlasit, je-li to namístě.

Možná se v budoucnu budeme na kvalitu umělé inteligence dívat trochu jinak. Nejen podle toho, kolik toho ví, jak rychle odpovídá nebo jak přirozeně mluví, ale také podle toho, zda nám pomáhá lépe rozumět sobě i ostatním. Budeme se však muset naučit klást AI jiné otázky než jen „Mám pravdu?“. Můžeme se ptát: „Co v mém uvažování může být chybné?“, „Jak by situaci popsal člověk na druhé straně?“ nebo „Jaké informace mi ještě chybějí, abych mohl rozhodnout spravedlivě?“

Stejně jako v lidských vztazích není totiž ani u AI největším důkazem kvality bezvýhradná podpora. Někdy je to právě schopnost upozornit nás na něco, co bychom raději neviděli. Nejde totiž jen o to, zda nás umělá inteligence dokáže pochopit. Jde také o to, zda nám pomůže pochopit druhé.

Budeme-li totiž hledat především někoho, kdo nám dává za pravdu, možná ho skutečně najdeme, a to v podobě dokonale trpělivého, výřečného a nikdy neunaveného digitálního společníka. Jen bychom si měli dát pozor, abychom si jeho souhlas nespletli s důkazem vlastní pravdy.

Nejlepší poradce totiž není ten, po jehož odpovědi máme lepší pocit. Je to ten, po jehož odpovědi někdy dokážeme lépe přemýšlet.