TikTok vie, čo ťa udrží na obrazovke, Google rozhoduje, čo nájdeš a AI už dokáže vytvoriť video z momentu, ktorý sa nikdy nestal. Kto kontroluje ich?
Veľká časť digitálneho sveta nefunguje podľa pravidiel, ktoré určujú štáty, ale súkromné technologické firmy a ich algoritmy. TikTok rozhoduje, aké videá sa ti zobrazia, Google určuje, čo nájdeš vo vyhľadávaní a umelá inteligencia môže rozhodovať, či ťa príjmu do práce.
Práve preto sa Európska únia v posledných rokoch rozhodla zasiahnuť. Vznikli tri veľké digitálne zákony známe aj ako akty o digitálnych službách (DSA), o digitálnych trhoch (DMA) a o umelej inteligencii (AI Act). Ich cieľom je nastaviť pravidlá pre firmy, ktoré majú na naše online životy väčší vplyv než kedykoľvek predtým.
DSA: Čo ak sociálna sieť porušuje tvoje práva?
Ak si ešte nedávno na sociálnej sieti narazil/a na nelegálny obsah, a chcel/a si ho nahlásiť, táto možnosť nemusela byť vôbec viditeľná. Alebo ti platforma mohla len tak zmazať príspevok a ty si ani netušil/a prečo.
Práve to sa snaží zmeniť Akt o digitálnych službách (DSA). Týka sa online služieb, ktoré používame každý deň ako sú napríklad sociálne siete, e-shopy, či obchody s aplikáciami. Platformy podľa nich musia prevziať väčšiu zodpovednosť za to, ako ich služby fungujú a aké riziká vytvárajú pre používateľov.
Čo to znamená v praxi?
👉 Narazil/a si na nelegálny obsah? Platforma ti musí ponúknuť jednoduchý spôsob, ako ho nahlásiť.
👉 Zmazali ti príspevok alebo účet? Máš mať možnosť zistiť, prečo sa tak stalo, a rozhodnutie napadnúť.
👉 Zobrazuje sa ti reklama? Platforma musí jasnejšie vysvetliť, prečo ju vidíš a kto za ňu zaplatil.
👉 Si neplnoletý/á? DSA zakazuje platformám používať tvoje osobné údaje na cielenú reklamu. To znamená, že nesmú využívať informácie o tvojom správaní na to, aby ťa prispôsobené reklamy ľahšie nalákali alebo donútili míňať peniaze.
Pri najväčších platformách, ako sú TikTok, Instagram či YouTube, EÚ rieši aj to, ako ich algoritmy a dizajn ovplyvňujú používateľov. Nekonečný scroll, automatické prehrávanie alebo odporúčania obsahu totiž nie sú len nevinné funkcie. Môžu byť navrhnuté tak, aby nás na platforme udržali čo najdlhšie.
DSA je teda aj o tom, ako sa technologické firmy správajú k ľuďom, ktorí ich služby používajú.
DMA: Ako spraviť digitálny trh spravodlivejším?
Google, Apple, Meta či Amazon prevádzkujú služby, ktoré používajú miliardy ľudí a milióny firiem. Ak chceš napríklad ponúknuť svoju aplikáciu k používateľom iPhonu, umiestniť reklamu alebo osloviť ľudí cez vyhľadávač, často sa musíš pohybovať v priestore, ktorý ovláda jedna z týchto veľkých firiem.
Akt o digitálnych trhoch (DMA) rieši otázku, čo sa stane, keď je jedna firma na trhu taká silná, že môže určovať pravidlá aj svojim konkurentom.
EÚ preto niektoré najväčšie technologické firmy označila za tzv. strážcov prístupu (gatekeepers). Sú to firmy, ktoré kontrolujú dôležité digitálne služby, cez ktoré sa ostatné firmy dostávajú k používateľom. Pre tieto spoločnosti preto platia osobitné pravidlá.
Čo to znamená v praxi?
DMA sa snaží zabrániť napríklad tomu, aby veľká technologická firma:
👉 Zvýhodňovala vlastné služby pred konkurenciou – napríklad, aby vo vyhľadávaní automaticky tlačila vlastnú službu vyššie len preto, že jej patrí;
👉 Bránila používateľom vo výbere – napríklad, aby im zbytočne znemožňovala odinštalovať aplikácie, ktoré sú v mobile predinštalované, alebo používať inú predvolenú službu;
👉 Spájala údaje o používateľovi zo svojich rôznych služieb bez jeho súhlasu – napríklad prepájala dáta z viacerých služieb na vytvorenie ešte presnejšieho profilu používateľa.
AI Act: Čo ak rozhoduje umelá inteligencia?
Predstav si, že pošleš životopis na brigádu a o tom, či ťa pozvú na pohovor, rozhodne algoritmus. Alebo požiadaš banku o úver a AI vyhodnotí, či ho dostaneš.
Umelá inteligencia dnes už nie je len chatbot, ktorý ti pomôže napísať referát alebo vytvorí obrázok. Používa sa pri vzdelávaní, v zdravotníctve, pri prijímaní ľudí do práce, vo finančných službách aj v bezpečnosti. A čím viac rozhodnutí nechávame na AI, tým dôležitejšia je otázka, kto kontroluje, ako tieto systémy fungujú.
Práve na to reaguje Akt o umelej inteligencii (AI Act).
Niektoré veci AI robiť nemôže vôbec
EÚ niektoré použitia umelej inteligencie úplne zakazuje, pretože ich považuje za príliš nebezpečné alebo neprijateľné.
Patrí medzi ne napríklad social scoring. Je to systém, ktorý by ľudí plošne hodnotil podľa ich správania alebo osobných charakteristík a na základe takéhoto skóre by im napríklad obmedzoval prístup k určitým službám.
Zakázané sú aj niektoré formy manipulácie ľudí pomocou AI alebo využívania ich zraniteľnosti.
A čo deepfakes?
Dnes dokáže AI vytvoriť realistickú fotografiu, video alebo hlas človeka, ktorý v skutočnosti nič také nepovedal ani neurobil.
V rámci aktu o AI preto od 2. augusta platia nové pravidlá transparentnosti. Niektoré AI systémy ťa musia jasne informovať, že komunikuješ s umelou inteligenciou, a pri určitom AI-generovanom alebo upravenom obsahu musí byť možné rozpoznať, že vznikol pomocou umelej inteligencie.
Pri deepfakoch platí osobitná povinnosť transparentnosti. Ak ide o umelo vytvorený alebo zmanipulovaný obrázok, zvukovú nahrávku, alebo video, musí byť ich AI pôvod zreteľne označený za určitých podmienok.
Znamená to, že EÚ nás teraz ochráni pred všetkým?
Aj keď DSA, DMA a AI Act prinášajú nové pravidlá a dávajú používateľom viac práv, zákon sám o sebe internet nezmení na bezpečné miesto. Technologické firmy musia pravidlá dodržiavať a úrady ich musia vedieť kontrolovať. Technológie sa navyše vyvíjajú tak rýchlo, že zákony za nimi môžu jednoducho zaostávať.
Článok vznikol vďaka podpore Zastúpenia Európskej komisie na Slovensku
Zdroj titulného obrázku: Tenor
