Tvorcovia AI modelov a modeliek si našli nový, výnosný biznis. Začali kradnúť videá ľuďom a vytvárať z nich modely AI influencerov a influenceriek s Downovým syndrómom. Cez Fanvue alebo Onlyfans ľudí lákajú na kúpu takéhoto obsahu.
👉 Downov syndróm patrí, podľa Spoločnosti Downovho syndrómu na Slovensku, k najbežnejším chromozomálnym poruchám. Na Slovensku sa s ním rodí každý rok približne 30 až 50 detí. Syndróm sa prejavuje typickými fyzickými črtami a mentálnym postihnutím v rôznej miere. Napriek tomu môžu ľudia s Downovým syndrómom viesť plnohodnotný život. Spoločnosť ich však často znevýhodňuje na základe mýtov a predsudkov.
Neexistujúce influencerky s Downovým syndrómom
Jeden z najznámejších účtov, ktorý už Instagram zablokoval, patril neexistujúcej influencerke s Downovým syndrómom Marii Dopariiovej. Tento účet mal v čase, keď bol aktívny, okolo 148-tisíc sledovateľov.
Videá, ktoré tvorcovia AI generovanej influencerky s Downovým syndrómom zverejňovali, sa zameriavali najmä na objektivizáciu jej tela – prezentovali ju ako sexuálny objekt, pričom ignorovali jej osobnosť, myšlienky či schopnosti.
Pomocou AI bolo vytvorených množstvo podobných profilov zobrazujúcich ženy s Downovým syndrómom, ktoré lákajú na odkazy vedúce k platformám OnlyFans či Fanvue, kde za poplatok ponúkajú sexuálne ladený obsah.
👉 OnlyFans a Fanvue sú webstránky, kde ľudia môžu pridávať svoj obsah, napríklad fotky a videá, a iní im za to platia. Najčastejšie ide o súkromný alebo aj erotický obsah, ktorý inde nezverejňujú.
Hoci sú tváre týchto influenceriek generované umelou inteligenciou, v mnohých prípadoch boli použité ukradnuté fotografie a videá skutočných ľudí, z ktorých boli vytvorené deepfejky.
Éra stvoriteľov AI modelov a modeliek
Umelá inteligencia je prospešný nástroj, ktorý ti vie vo veľa veciach pomôcť, avšak tak, ako aj mnohé ďalšie vynálezy, ľudia ju začali zneužívať.
Medzi najznámejšie AI modelky patria napríklad sestry Emily a Vanessa Pellegrini, ktoré vytvoril neznámy muž. Spočiatku si ľudia mysleli, že ide o skutočné osoby. Na Instagrame zverejňoval ich fotografie v plavkách, vyzývavom oblečení či šortkách, neskôr im založil profil na platforme s plateným obsahom, kde sa objavili aj bez oblečenia.
Po tom, čo tvorca priznal, že ide o výtvory umelej inteligencie, spustil webovú stránku, kde tvrdí, že na nich zarobil viac ako milión dolárov. Na stránke vystupuje s desivou maskou a predáva päť modulov, ktoré si ľudia môžu kúpiť, aby sa sami naučili vytvárať falošných influencerov a influencerky za účelom zisku.
Za hranicou etiky
Spôsoby používania umelej inteligencie sú novým, neprebádaným územím, a preto tieto deepfejky nie sú prvé ani posledné, ktoré vytvoria ľudia pre zábavu alebo pre peniaze. Otázne však je, ako etické je zneužívať zdravotné znevýhodnenie na predávanie obsahu pre dospelých.
Falošný obsah môže ľuďom s Downovým syndrómom a ich rodinám ublížiť a očierniť ich v očiach spoločnosti, kde už musia aj tak čeliť predsudkom kvôli mýtom, ktoré o tomto syndróme vznikajú.
Znepokojivé taktiež je, že telá týchto AI influenceriek sú z fotografií a videí reálnych ľudí, ktoré tvorcovia ukradli a použili bez súhlasu.
Tvorba takýchto falošných profilov môže byť nástrojom na manipuláciu s ľuďmi, šírenie dezinformácií alebo vytváranie neetických ziskov. Prispievajú tiež k normalizácii vnímania žien a ľudí s postihnutím ako objektov pre uspokojenie sexuálnych fantázií.
Vďaka Aktu o umelej inteligencii máme v Európskej únii sociálne siete o čosi bezpečnejšie a každý výtvor AI musí mať štítok, kde sa priznáva, že ide o postavu vytvorenú cez umelú inteligenciu.
To však stále nerieši etický problém zneužívania zdravotného znevýhodnenia a ľudskej dôstojnosti na dosahovanie zisku.
Zdroj titulnej fotografie: Koláž Zmudri G
