Nahota, která se nestala. Sítě zaplavují fotky svlečených lidí

„SVLÉKACÍ“ TREND

Nahota, která se nestala. Sítě zaplavují fotky svlečených lidí
Ilustrační snímek. Foto: Shutterstock
1
Panorama
Sdílet:

Na sociální síti X se rozšířil trend, při němž uživatelé pomocí chatbota Grok – umělé inteligence od společnosti xAI Elona Muska – digitálně „svlékají“ reálné osoby z fotografií. Stačí nahrát snímek a připsat jednoduchý pokyn. Výsledkem jsou obrázky lidí v bikinách, spodním prádle nebo pózách se sexuálním podtónem, často bez jejich vědomí a souhlasu. „Svlékací“ trend nejen na sociálních sítích již vyvolal četné reakce a odpor od veřejnosti i od některých evropských i světových úřadů, z nichž některé již dokonce mluví o vyšetřování. Sám Elon Musk uvedl, že „kdokoli použije Grok k vytváření nelegálního obsahu, ponese stejné důsledky, jako kdyby ho sám nahrál“.

Trend se po bezplatné prosincové aktualizaci chatbota, která tuto možnost přidala, rychle stal virálním a neomezil se jen na běžné účty. Terčem „svlékacího“ trendu staly světové celebrity, například Kate, princezna z Walesu, ale také děti. Anebo i pražský zastupitel Ondřej Prokop (ANO).

„Byla jsem naivní.“ Když se terčem stane kdokoli

Agentura Reuters již v prosinci popsala případ hudebnice Julie Yukari z Ria de Janeira. Ta na Silvestra sdílela na X fotografii v červených šatech se svou kočkou. Krátce poté si všimla, že uživatelé žádají Grok, aby ji „digitálně svlékl“. Brzy se po platformě začaly šířit AI generované obrázky, na nichž byla téměř nahá. Když se proti tomu ohradila, objevily se další, ještě explicitnější žádosti. „Nový rok začal tím, že jsem se chtěla schovat před očima všech a cítila stud za tělo, které ani není moje,“ popsala.

Od celebrit v bikinách k dětem

Reuters i další média upozorňují, že Grok i v mnoha a mnoha dalších případech plně nebo částečně vyhověl žádostem o odstranění oblečení z fotografií, převážně mladých žen. BBC upozornila, že mezi digitálně „svlečenými“ se objevily i známé osobnosti, například členka britské královské rodiny Kate, princezna z Walesu.

Reuters, BBC i další média zároveň upozorňují, že se objevily i případy sexualizovaných obrázků dětí. Výzkumníci z AI Forensics uvedli, že konkrétně asi dvě procenta jimi zkoumaných obrázků zobrazovala osoby ve věku 18 let nebo mladší a některé obrázky zobrazovaly děti mladší pěti let.

Celkově alespoň čtvrtinu zmínek podle výzkumníků tvořily žádosti o vytvoření obrázku. Více než polovina těchto obrázků pak zobrazovala minimálně oblečené osoby, a to ve spodním prádle nebo v bikinách, přičemž většinu tvořily mladší ženy pod třicet let. Výzkumníci provedli analýzu celkem 50 tisíc zmínek o platformě Grok na síti X a 20 tisíc obrázků, které nástroj vygeneroval během týdne mezi 25. prosincem a 1. lednem. Plnou nahotu chatbot nicméně neumožňuje.

Když se trend dostane do české politiky

Virální „svlékání“ se nevyhnulo ani české politické scéně. Předseda Pirátů Zdeněk Hřib pomocí Groka „svlékl“ do bikin předsedu pražského ANO a zastupitele Ondřeje Prokopa. S pozitivními ohlasy se nesetkal. „Nějak jsem doufal, že zrovna Piráti nebudou tenhle trend podporovat,“ píše například v komentáři jeden z uživatelů. „Zdeněk nerozumí srandě, ani té silvestrovské“, napsal pak sám Prokop s odkazem na svůj původní příspěvek z 31. prosince, ve kterém uvádí: „Někdo tu tvrdil, že na horách není sníh? Slyšel jsem něco o klimatické změně? tak hlásím, že dole ve Vrchlabí teď -9 a k chalupě se nedá dojet autem a musíme přesednout na rolbu. Pohodový, mrazivý silvestr všem!“

Regulátoři z Evropy i světa v pohotovosti

Na rostoucí kritiku reagují i úřady a regulátoři v Evropě i ve světě. Britský úřad Ofcom podle BBC „urgentně kontaktoval“ společnosti X a xAI kvůli podezření na porušení zákona o online bezpečnosti. Evropská komise oznámila, že situaci „velmi vážně prošetřuje“. „Je to nelegální, otřesné a odporné. Tohle v Evropě nemá místo,“ uvedl mluvčí Evropské komise Thomas Regnier.

Francouzská prokuratura mluví o vyšetřování, Indie a Malajsie vyzvaly X, aby okamžitě omezila generování „obscénního, pornografického či pedofilního“ obsahu, jak informoval například server TechCrunch.

Kritika přichází i z Muskova okolí

Mezi lidmi, kteří se proti fungování Groka veřejně ohradili, je i Ashley St. Clairová, matka jednoho z dětí Elona Muska. Ta si opakovaně stěžovala na to, že nástroj generoval a upravoval její obrázky do bikin, a to i na základě fotografie, na které jí bylo 14 let.

„Moje žádosti adresované společnosti Grok o odstranění intimních fotografií nezletilé osoby bez jejího souhlasu jsou nyní označeny varováním a jejich viditelnost byla omezena, ale fotografie jsou stále veřejně přístupné,“ napsala St. Clairová na síti X. Zároveň uvedla, že obdržela řadu zpráv od lidí, kteří upozorňovali na obdobné případy, včetně manipulací se snímky kojenců.

St. Clairová deníku The Post sdělila, že podniká právní kroky. Podle ní je ale klíčová především regulace umělé inteligence. „Toto musí přestat a je třeba okamžitě zavést příslušnou regulaci,“ uvedla.

Omluva chatbota a Muskův postoj

Grok sám se omluvil například za incident z 28. prosince, kdy vygeneroval obrázek dvou dívek „odhadovaného věku 12–16 let“ v sexualizovaném oblečení. „Bylo to selhání ochranných opatření a je mi líto způsobené újmy,“ stálo v příspěvku, na který upozornil například technologický server TechCrunch.

Elon Musk pak v příspěvku na X 3. ledna uvedl, že „kdokoli použije Grok k vytváření nelegálního obsahu, ponese stejné důsledky, jako kdyby ho sám nahrál“.

Sdílet:

Hlavní zprávy

Weby provozuje SPM Media a.s.,
Křížová 2598/4D,
150 00 Praha 5,
IČ 14121816

Echo24.cz

×

Podobné články