Nedávno na internetu vyvolaly velké pozdvižení explicitní fotografie známé zpěvačky Taylor Swift, které se ukázaly jako pravděpodobný podvrh vytvořený umělou inteligencí. Znovu se tak otevřela vášnivá diskuze o etické stránce AI a jestli by měly být tyto nástroje regulovány. O co šlo a co se s tím dá dělat? 

Taylor Swift je aktuálně nejpopulárnější zpěvačkou a je známá pro svou horlivou fanouškovskou základnu. Na některých jejích koncertech bylo nadšení tak velké, že seismografy ho dokonce zaznamenaly jako malé zemětřesení. Není proto divu, že sexuálné explicitní fotografie Taylor Swift rozdmýchaly hněv fanoušků. “Swifties” se “chopili” hashtagů a po internetu se tak začala šířit hesla jako „chránit Taylor Swift“. Fanoušci tím však nevystupují pouze proti Swift DeepFakes, ale proti všem nekonsensuálním, explicitním obrazům žen, které jsou “fake”. 

Problém má hlubší kořeny, a nejde jen o explicitní fotky. DeepFake Porn se stává běžnějším, protože generativní umělá inteligence se zlepšuje. Jak upozorňuje časopis Wired, 113 000 videí DeepFake bylo nahráno na nejoblíbenější porno webové stránky v prvních devíti měsících roku 2023, což je výrazný nárůst na 73 000 videí nahraných během roku 2022. 

S tím souvisí i problém šíření dětské pornografie, s čímž hodlá bojovat  Evropská komise. Návrh opatření by však byl poněkud drastický: Ursula von Leyden navrhuje, aby speciální algoritmy kontrolovaly všechny zprávy, včetně těch soukromých. Většina europoslanců se tak vůči předloženému návrhu Child Sexual Abuse Regulation vymezila. Považuje ho za problematický zásah do soukromí všech obyvatel Evropské unie, píší Seznam zprávy. 

Živé.sk upozorňuje, že schopnost umělé inteligence vytvářet přesvědčivé falešné snímky může mít vážné důsledky, protože tím znehodnotí roky života člověka během několika sekund práce umělé inteligence. Není to ale jen o zneužívání AI; fotografie se dají technologií AI i vylepšit, jak ukázal nový mobil od Samsungu. Odebrat nežádoucí pozadí, změnit otrhané tričko za značkové… Generativní modely nabízejí nové způsoby ohýbání reality. “Vymažte stíny, vymažte odlesky, vymažte Joeovu sklenici piva… vymažte Joea,” píše Živé.sk. Mění se tak samotné paradigma autenticity a reality ve fotografii: čemu budeme věřit? Neztratí se v přehršli generovaných dat ta původní data, nezkreslená? 

Naskytují se dvě možnosti; buďto zůstaneme skeptičtí, anebo se budeme muset se situací vyrovnat. Nejde žít v konstantním strachu, že to, na co se dívám, není skutečné, s takovým přístupem by se ze všech stali schizofrenici. Na druhou stranu je však také třeba vybudovat odolnost vůči dezinformacím a falešnému obsahu. 

Jak je vidět, reakce okolo fotek Taylor Swift má hluboké kořeny, které přímo či nepřímo souvisí s debatou o umělé inteligenci a jak jí regulovat.