Politici za oceánem si až teď začínají plně uvědomovat, jaké škody můžou napáchat deepfakes. Trochu překvapivě za to může americká zpěvačka Taylor Swift. V posledních dnech se vyrojilo tolik deepfake obsahu, mnohdy sexuálního charakteru, ve kterém ona figuruje, že to pobouřilo i zákonodárce a přišli s návrhem zákona, který explicitní deepfakes potírá. Zpráva vyšla na Živě.cz.
Deepfake obsah s Taylor Swift – jednou z nejpopulárnějších zpěvaček na světě – v posledních dnech internet doslova zahltil. Nezřídka šlo o sexuálně explicitní fotografie a videa. Sociální sítě takové příspěvky zakazují, ale jak bývá zvykem, když je nějakého obsahu hodně, algoritmy i lidští moderátoři jej nestíhají odstraňovat.
Nejhorší situace byla na síti X, která ani nemá příliš mnoho moderátorů, jelikož šéf sítě Elon Musk v tom nevidí smysl. Ale deepfakes s Taylor Swift se přes víkend objevilo na X tolik, že i Musk uznal, že to je za hranou a na nějaký čas zcela zakázal vyhledávání jména zpěvačky. Síť na toto klíčové slovo přestala reagovat.
Podle serveru 404 media byly deepfake obrázky Taylor Swift vytvořeny nejspíš pomocí Microsoft Designeru. Aplikace obsahovala chybu, díky které bylo možné vytvářet i obsah s tvářemi známých osobností, což Microsoft Designer v běžném provozu nedovoluje. Takto vzniklo mnoho deepfakes, které autoři sdíleli na Telegramu a 4Chan, odkud se rozšířily na další platformy. Dnes už Microsoft chybu opravil.
Záležitost nepobouřila jen fanoušky Taylor Swift, kteří jsou známí svým aktivismem. V šoku byli i američtí politici, kteří možná poprvé viděli v reálném čase, jak snadno a v jakém objemu se deepfakes mohou dostat do veřejného prostoru. A jak těžké je se jim bránit. Skupina senátorů proto urychleně předložila návrh zákona, který má sexuální deepfakes potírat.
Zákon má krkolomný název Disrupt Explicit Forged Images and Non-Consensual Edits Act of 2024, zkráceně se o něm hovoří jako o Defiance Act (Aktu vzdoru). Jeho hlavním cílem je umožnit, aby oběti digitálních padělků mohli po autorech požadovat občanskoprávní postih. Generování explicitních padělků pomocí AI bude zakázáno, stejně tak vědomé šíření tohoto obsahu.
„Tento měsíc se na sociálních sítích objevily falešné, sexuálně explicitní obrázky Taylor Swift, které byly vygenerovány umělou inteligencí. Ačkoli se může jednat o falešné snímky, škody, které šíření sexuálně explicitních deepfakes obětem způsobuje, jsou velmi reálné,“ uvádí v tiskovém prohlášení jeden z autorů zákona, senátor Dick Durbin.
