Sociální síť X začaly v posledních týdnech zaplavovat explicitní fotografie stroze oblečených osob. Většinou konkrétně žen, ale někdy i dětí. Umožnila to prosincová aktualizace modelu umělé inteligence Grok.
Uživatelé jednoduše jen pod fotografie reálných lidí napíší Groku zadání, ať danou osobu svlékne do spodního prádla. A chatbot jim bez větších problémů vyhoví.
Problém už začala řešit nejen síť Elona Muska, ale i některé evropské státy.
Mezírky v bezpečnosti
Sociální síť X a její chatbot Grok mají problém. Umožňují uživatelům, aby svlékali fotografie jinak zcela běžně oblečených lidí. Úplnou nahotu sice umělá inteligence neumožňuje, nicméně ve velkém generuje fotky lidí ve spodním prádle, bikinách a často i v explicitních pózách. Funkce se stala virální koncem roku.
"Zjistili jsme několik mezer v bezpečnosti a na jejich odstranění pracujeme," objevilo se na oficiálním profilu Grok začátkem roku. Chatbot ale podle magazínu Deutsche Welle explicitní obsah generoval ještě na začátku roku dál.
Obětí i Muskova expřítelkyně
Jedním z terčů uživatelů se stala i Ashley St. Clairová, tedy matka jednoho z dětí Elona Muska. Chatbot jí převlékl do bikin, a to dokonce na fotce, na které je jí pouhých 14 let.
„Byla jsem zhrozená. Viditelnost fotografií, kde jsem nezletilá, byla sice omezena, ale jsou stále veřejně přístupné,“ komentovala Ashley situaci pro Washington Post.
Toustovač v bikinách
Každý, kdo bude přes Grok vytvářet nelegální obsah, ponese stejné následky jako každý, kdo na X nelegální obsah sdílí, napsal v reakci na kauzu na své síti Musk.
V jiném příspěvku se ale celé situaci vysmíval a sdílel fotku, kde Grok do bikin oblékl toustovač.
Znepokojení regulátoři
O síť X a její novou funkci se začal zajímat už i britský mediální regulační úřad Ofcom, a to konkrétně kvůli explicitním fotografiím dětí.
Chtěl zjistit, jaké kroky na jejich ochranu se sociální síť chystá podniknout. Odpovědi se však zatím nedočkal. Podobně teď podle BBC postupují i úřady například z Francie, Austrálie nebo Indie.
Víc než 10 tisíc fotek
Výzkumnící z neziskové organizace AI Forensics provedli analýzu 50 tisíc zmínek Groka a jím vytvořených 20 tisíc fotek mezi 25. prosincem a 1. lednem. Na 53 procentech obrázků byli lidé s minimem oblečení, přičemž 81 % těchto lidí byly ženy. Na dvou procentech se potom objevovali mladiství, u kterých ale často nebylo jisté, jestli jsou nebo nejsou zletilí.
Kromě záplavy obsahu s nahotou analýza AI Forensics jako "vedlejší produkt" také odhalila příklady obsahu, který zobrazoval nacistickou tematiku nebo symboly ISIS. To vše bylo opět vytvořené pomocí Groka, tedy chatbota s umělou inteligencí, kterého vyvíjejí firmy Elona Muska.
