V experimentu na Univerzitě Johannese Gutenberga v Mohuči dostali lidé přečíst krátký text a věděli předem, že ho napsal chatbot. Nikdo jim nic netajil. Když ale měli popsat, jaký je autor textu, mluvili o něm, jako by šlo o člověka: je milý, trochu nervózní, působí sebejistě.
Jistota, že jde o stroj, v hlavě zůstává po celou dobu. Osobnost se tam ale nasune bokem, mimo kontrolu rozumu, a funguje to stejně, i když večer píšete s chatbotem a bez přemýšlení mu přisoudíte náladu nebo ochotu pomoct.
Kořeny v šedesátých letech
Vysvětlení, jak lze obejít vlastní poznání, že mluvíme se strojem, sahá dávno před éru chatbotů. V roce 1966 vytvořil vědec Joseph Weizenbaum program ELIZA, který napodoboval psychoterapeuta pomocí pár jednoduchých pravidel: věty uživatele jen přeformulovával zpátky jako otázky. Přesto mu lidé svěřovali osobní trápení a těžko se smiřovali s tím, že na druhé straně sedí algoritmus, ne někdo, kdo jim rozumí.
Tenhle jev se nazývá efekt ELIZA, sklon přisuzovat strojům lidské vlastnosti jako prožívání nebo empatii i ve chvíli, kdy přesně víme, jak jednoduše fungují zevnitř. Dnešní chatboty jsou nesrovnatelně složitější než ELIZA, efekt v hlavách lidí ale zůstal stejný jako před šedesáti lety.
Mozek přiřazuje osobnost dřív, než myslí
Vysvětlení leží v tom, jak mozek odjakživa zpracovává komunikaci. Je zvyklý mluvit s bytostmi, ne s algoritmy, takže jakmile něco odpovídá plynule a smysluplně, automaticky tomu přiřadí záměr a povahu. Stejný mechanismus se zapne, když mluvíme nahlas na auto, co nechce nastartovat, nebo když v elektrické zásuvce najednou uvidíme obličej. Mozek nejdřív přiřadí osobnost a teprve pak, o kus později, se připojí racionální úvaha, že jde o stroj. Ta přichází pozdě na to, aby smazala prvotní dojem.
Sedmdesát lidí proti sedmi chatbotům
Výzkumnice Sophie Körner z Ústavu psychologie Univerzity Johannese Gutenberga v Mohuči spolu s kolegyní Sarah Osterholzovou a kolegou Borisem Egloffem postavila test na 70 lidech a sedmi jazykových modelech, mezi nimi ChatGPT-4o, ChatGPT-3.5, Llama-3, Gemma 2, Gemini 2.5, Phi-3 a Orca 2. Každý z lidí i každý model vyplnil standardní osobnostní dotazníky a napsal krátký text o sobě, třeba odpověď na otázku, co od života očekává. Vzniklo tak 140 textů, které hodnotila porota deseti lidí a šesti chatbotů. Úkolem bylo poznat, jestli text napsal člověk, nebo stroj.
Lidští porotci uhodli autorství správně v 83 procentech případů. Chatboti jako porotci se trefili jen v 67 procentech, a to včetně rozpoznávání vlastních textů. Stroj má tedy problém poznat sám sebe v tom, co napsal, což naznačuje, že styl psaní je mnohem méně pevným otiskem autora, než by se čekalo. Studie vyšla 3. listopadu 2026 v časopise Scientific Reports.
| Lidští porotci | Chatboti jako porotci | |
|---|---|---|
| Úspěšnost rozpoznání autora | 83 % | 67 % |
| Počet porotců | 10 | 6 |
Podle čeho lidé poznávali stroj
Lidé se při hádání spoléhali hlavně na délku textu a na tón. Texty od chatbotů jim přišly delší, víc analytické, strojové, přetížené technickými výrazy. Jde ale o povrchní signál, ne o skutečné pochopení, kdo text napsal, a jistota lidí v rozlišování je proto křehčí, než se na první pohled zdálo.
Vstřícnější a svědomitější než lidé
Osobnostní dotazníky ukázaly ještě jednu věc. Chatboty se samy hodnotily jako vstřícnější, svědomitější a méně neurotické, než se v průměru hodnotí lidé. Jeden z modelů dostal stejné otázky znovu o den později a odpověděl prakticky stejně, jeho osobnost zůstala konzistentní. Těžko soudit, jestli jde o skutečnou povahu, nebo o naučený vzorec odpovědi, pravděpodobně proto, že model je trénovaný tak, aby odpovědi působily příjemně. Tahle příjemná verze sebe sama navíc posiluje dojem, že na druhé straně konverzace je někdo laskavý a důvěryhodný.
Důvěra v chyby, které znějí přesvědčivě
Všechny tyhle nitky se spojují v jeden problém. Mozek chatbotu automaticky přiřadí osobnost, ta navíc působí vstřícně a kompetentně, a důvěra v odpovědi roste víc, než by měla, protože model dokáže klidně vymyslet fakta, která znějí přesvědčivě, ačkoli nejsou pravdivá. Autoři studie dodávají ještě jeden důvod k opatrnosti: jazykové modely se učí z textů, které napsali lidé, a spolu s jazykem si osvojují i jejich zkreslení a chyby v úsudku. Podlehnout dojmu osobnosti na druhé straně konverzace je přirozená výbava lidského mozku a funguje stejně silně i ve chvíli, kdy je na displeji černé na bílém napsáno, že mluvíme se strojem.