DeepSeek je nový AI chatbot z Číny, ktorý vzbudzuje podozrenia v krajinách Európskej únie, ale aj mimo nej. Vyvinul ho čínsky startup v roku 2023 a funguje podobne ako ChatGPT. DeepSeek, ktorý je na scéne krátko, vyvoláva na internete množstvo diskusií a čelí aj veľkej kritike. Prečo?
Čínskemu startupu sa podarilo v januári 2025 vydať chatbota, ktorý kvalitou konkuruje popredným západným modelom, napriek zákazu dovozu najvýkonnejších čipov do Číny. Na jeho trénovanie údajne minuli oveľa menej peňazí než americké firmy ako OpenAI, aj keď správy o nákladoch 6 miliónov dolárov boli zavádzajúce a reálne to stálo viac než 500 miliónov.
Možno si kladieš otázku, prečo je okolo čínskych aplikácií také veľké haló.
Dôvodom je najmä fakt, že Číne stále vládne komunistický režim – forma totality, v ktorej sú obmedzované základné ľudské práva a slobody. Napríklad prístup k informáciám je prísne cenzurovaný, aby sa zabránilo šíreniu obsahu, ktorý by mohol akýmkoľvek spôsobom poškodiť obraz Čínskych vládcov.
Aplikácie vyvíjané v Číne, ktoré sa dostávajú na globálny trh, preto vyvolávajú obavy v demokratických krajinách, kde je sloboda prejavu a ochrana osobných údajov vysoko chránená.
Neboja sa len cenzúry, ale tiež možného úniku citlivých informácií. Aj preto už DeepSeek dostal zákaz používania vo viacerých krajinách, vrátane Talianska, Južnej Kórey, Taiwanu, či dokonca medzi zamestnancami NASA.
Podobné obmedzenia sa týkajú aj iných čínskych aplikácií. Napríklad, u nás je TikTok zakázaný pre zamestnancov štátnej správy, keďže jeho používanie predstavuje bezpečnostné riziko, najmä pri práci s citlivými údajmi.
Môže AI oslabovať kritické myslenie?
Ak si dával/a na hodinách dejepisu pozor pri preberaní období neslobody, ako napríklad nacizmu či komunizmu, určite vieš, že cenzúra informácií v nich zohráva kľúčovú úlohu. V totalitných režimoch sú najčastejšie cenzurované práve tie informácie, ktoré kritizujú alebo zosmiešňujú vládu alebo jej predstaviteľov.
Umelá inteligencia DeepSeek ti napríklad neodpovie na otázky týkajúce sa citlivých tém spojených s Čínou. Neposkytne kritický pohľad na čínsku vládu, nebude sa vyjadrovať k porušovaniu ľudských práv a neprezradí ti ani to, prečo prezidenta Si Ťin-pchinga prezývajú Macko Pú.
Cenzúra informácií je nebezpečná, pretože nám oslabuje kritické myslenie a bráni v získavaní objektívneho obrazu o svete. Nie je známe, aké všetky informácie DeepSeek cenzuruje a do akej miery alebo či vôbec manipuluje odpovede. Keď sa ho rozhodneš používať, je dôležité, aby si si vždy overil/a fakty z viacerých nezávislých a dôveryhodných zdrojov.
Kde končia naše osobné údaje?
Ľudia sa umelej inteligencii často zverujú s informáciami, ako je ich adresa, osobné problémy či ďalšie citlivé údaje, ktoré by inak na internete nezverejňovali. Nielen DeepSeek, ale aj iné chatboty ako napríklad ChatGPT, tieto dáta zbierajú. Rozdiel je však v tom, čo s nimi ďalej tieto firmy robia.
Dáta, ktoré DeepSeek získava, nekončia len u nás – putujú za hranice Európskej únie, až do komunistickej Číny.
DeepSeek o tebe zbiera tieto údaje:
- Osobné údaje ako mail, telefónne číslo, heslo a dátum narodenia
- História konverzácií v aplikácii, čiže všetko, o čom si s ním píšeš
- IP adresa, vzorce stláčania kláves a operačný systém
Všetky informácie sa ukladajú na čínske servery a môžu byť využívané aj na účely štátnej kontroly. Na tieto bezpečnostné riziká preto upozorňuje aj náš slovenský Národný bezpečnostný úrad.
DeepSeek hodnotia ako zaujatý s nízkou ochranou osobných údajov
Na zúbky sa pozrela DeepSeeku aj firma LatticeFlow AI, ktorá pomáha firmám zabezpečiť, aby boli v súlade s reguláciami Európskej únie, ktoré stanovila pre využívanie umelej inteligencie.
Vyvinuli k tomu nástroj s názvom COMPL-AI, čo je prvý nástroj na svete určený na overovanie súladu AI modelov s nariadením EÚ o umelej inteligencii (EU AI Act).
Čo zistili?
Modely DeepSeeku, ktoré hodnotili, sa umiestnili na najnižších priečkach rebríčka v oblasti kybernetickej bezpečnosti. Znamená to, že sú náchylnejší napríklad na rôzne úniky osobných údajov a zadávaných promptov. Taktiež u nich zaznamenali zaujatosť.
Celé výsledky si môžeš pozrieť na ich webe.
Je len na tebe, či budeš DeepSeek používať alebo nie. Pri akomkoľvek nástroji, ktorému zveruješ citlivé údaje, však nezabúdaj myslieť na svoju bezpečnosť a využívaj aj pri vygenerovaných odpovediach z umelej inteligencie kritické myslenie.
Zdroj titulnej fotografie: Koláž Zmudri G
