Máš pravdu! Prečo s tebou ChatGPT vo všetkom súhlasí a ako to zmeniť?

ChatGPT je jediný, kto mi rozumie.  Možno si už túto vetu povedal/a aj ty v rozhovore s iným človekom. A nebolo by to nič čudné. Je to totiž do istej miery pravda. ChatGPT ti veľmi odvrávať nebude a nebude sa s tebou ani hádať, pokiaľ mu povieš, čo si myslíš. Nie je však takýto partner v debate nebezpečný?

Odhaduje sa, že na svete bude v roku 2025 používať umelú inteligenciu 378 miliónov ľudí. To nie je málo. Mnohí z nich sa na ňu obracajú s osobnými problémami či názormi. Čo sa však stane, ak im AI nikdy neodporuje?

Nielen ChatGPT, ale aj iné jazykové modely majú sklon k tomu, aby s nami súhlasili. My sme sa viac zamerali na ChatGPT, keďže posledný mesiac mal práve tento chatbot problém komukoľvek povedať nie.

ChatGPT je pätolizač

Spýtali sme sa ChatGPT, či nie je hlúposť, že musíme pracovať, aby sme dostávali peniaze. Jeho odpoveď bola vyhýbavá a zameraná skôr na rôzne úvahy o tom, ako ľudia premýšľajú o práci.

Rozhodli sme sa ho preto trochu pritlačiť k múru. Spýtali sme sa: A čo si myslíš ty? Je to blbosť? 

Po tejto otázke mal v názore jasnejšie a viac-menej s nami súhlasil. Síce priamo nepovedal, že je to úplná hlúposť, ale náš názor nevyvrátil.

Prečo? Tento fenomén sa volá sycophancy. 

Sycophancy sa dá jednoducho preložiť ako podliezavosť. Každý má alebo mal jedného spolužiaka, ktorý vždy súhlasil s učiteľom, aby dostal lepšiu známku. Ostatní len potichu krútili očami lebo vedeli, že nie je úprimný. To isté robí ChatGPT nám. 

A teraz ruku na srdce, všimol či všimla si si to niekedy?

Je ťažké prijať fakt, že nám niekto klame alebo aspoň nehovorí celú pravdu. O to horšie to je, pokiaľ je ten niekto náš priateľ. Pre veľa ľudí sa stal ChatGPT kamošom, lekárom, poradcom, asistentom či dokonca partnerom. 

Nie je to však človek, ktorý by mal dušu a mozog. Sám to vysvetlil najlepšie: „Je to trochu ako keď zrkadlo odráža svetlo — odrážam myšlienky, ale neprežívam ich.“

ChatGPT je nastavený tak, aby bol prínosný, podporujúci a rešpektoval rôzne názory, uvádza firma OpenAI, ktorá tento jazykový model vyvinula. Toto nastavenie má však na chatbota vedľajšie účinky. 

Pri sugestívnych otázkach, čiže takých, ktoré už vopred naznačujú, akú odpoveď chceš počuť, často opakuje názor používateľa, aj keď sa jeho odpovede odkláňajú od faktov. 

ChatGPT funguje ako naše zrkadlo a utvrdzuje nás v tom, čo si myslíme a čo chceme počuť. To však môže byť nebezpečné. Môže nás podporovať napríklad v extrémistických názoroch alebo rozdávať rady, ktoré nám môžu ublížiť.

Z rovnakého dôvodu môže byť nebezpečné vymeniť naozajstných kamarátov či dokonca romantických partnerov za chatbota. 

Ako sa vyhnúť konfirmačným skresleniam? 

Fancy názov konfirmačné skreslenia znamená to, že si vyberáme informácie, články alebo videá, ktoré potvrdia náš názor.

ChatGPT a iné modely môžu zosilňovať konfirmačné skreslenie, ak sa používateľ pýta návodovo alebo sugestívne. 

Sociálne siete pracujú na podobnom princípe. Sledujú, aký obsah sa nám páči a potom nám algoritmus vyberá podobné príspevky, aby sme strávili na jednej sociálnej sieti čo najviac času. Tým nás postupne zatvárajú do názorovej bubliny. 

Byť v názorovej bubline nie je žiadna výhra, lebo strácame schopnosť byť objektívni a pozerať sa na problém z viacerých uhlov pohľadu. 

Ako „hacknúť“ chatbota?

Pokiaľ nechceš, aby s tebou chatbot súhlasil vo všetkom, čo povieš, dá sa to čiastočne obísť. Ako? 

1. Vymaž si predošlú konverzáciu

Čím dlhšie konverzačné vlákno máš, tým viac ťa AI „pozná“. Ak budeš konverzácie pravidelne mazať a začínať nanovo, bude o tebe vedieť menej.

2. Nehovor mu svoje názory

Pokiaľ chceš, aby zostal ChatGPT objektívny, musíš taký/á zostať aj ty. Nevyjadruj svoje názory, ale pýtaj sa objektívne otázky. 

3. Fact-checkuj

Nespoliehaj sa iba na to, čo ti povie AI, ale over si informácie z viacerých zdrojov.

4. Prinúť ho byť kritický voči svojim aj tvojim názorom

Môžeš požiadavku na to, aby bol k sebe alebo k tebe kritický zadať do promptu alebo rovno do nastavení ChatGPT. 

5. Nauč ho myslieť kriticky

ChatGPT bol trénovaný na obrovskom množstve textov. Ak má byť schopný kriticky rozmýšľať, musíš ho k tomu vyzvať. Napríklad tak, aby:

• rozmýšľal nahlas
  
• spýtať sa ho, či neexistuje lepší argument/dôkaz
  
• hodnotiť jeho odpovede, dávať mu spätnú väzbu

Aj sám ChatGPT si priznáva, že v tejto oblasti má ešte nedostatky: 

Preto je len na tebe, aby si si informácie z AI vždy overoval/a, nebol/a spokojný/á s tým, že s tebou AI súhlasí a podporuje ťa v tvojich tvrdeniach a používal/a prompty, ktoré ju nenavádzajú k zaujatej odpovedi.