V březnu europoslanci definitivně odmítli prodloužení dočasné výjimky označované jako Chat Control 1.0, která umožňovala skenování soukromé komunikace. Nyní se skloňuje návrh Chat Control 2.0, tedy možnost trvalého a do budoucna i povinného skenování zpráv na aplikacích typu WhatsApp či Messenger.
Z českých europoslanců má do problematiky největší vhled asi Markéta Gregorová (Piráti), která se jako europoslankyně věnuje mimo jiné vlivu nových technologií na bezpečnost a demokracii.
V rozhovoru pro Bold News vysvětluje problematiku Chat Control i svlékacích aplikací, tedy témat, která jsou v Evropském parlamentu rovněž živě diskutovaná. Narazily jsme také na téma hejtů a online nenávisti či na to, z jaké sociální sítě europoslankyně raději odešla.
Na sítích teď běží diskuse o kroku platformy Instagram, která má ukončit podporu koncového šifrování pro zprávy. Co to pro uživatele znamená?
Znamená to opět menší soukromí. Obsah zpráv už nebude chráněný tak, aby ho mohli číst jen odesílatel a příjemce. U citlivé komunikace je proto na místě větší opatrnost. A je to i připomínka, že ochrana soukromí v digitálním prostoru není samozřejmost.
Jaké digitální zákony nyní v Evropském parlamentu řešíte? A v jaké fázi je aktuálně návrh nařízení zvané Chat Control?
V rámci vyjednávání pravidel o umělé inteligenci se mně osobně podařilo zakázat takzvané nudifiers, tedy možnost vysvlečení kohokoli na fotce díky umělé inteligenci. Pokud návrh přežije další vyjednávání, budou si muset lidé jako Elon Musk sáhnout do algoritmů.
Nevidím důvod, proč by měly AI nástroje na nekonsensuální svlékání a šikanování obětí existovat i nadále. Pak řešíme právě Chat Control, aktuálně jeho druhou verzi.
O Chat Control se teď hodně mluví, ale jak byste ho představila někomu, kdo vůbec neví, o co jde?
Je to neustále se vracející snaha zavést skenování soukromé komunikace pod záminkou vyhledávání sexuálního zneužívání dětí online. Chránit děti samozřejmě musíme, ale to téma by nemělo být zneužíváno jako záminka pro plošné šmírování milionů nevinných lidí.
Doufám, že nakonec projde verze zákona, která je co nejdál od toho, co navrhovala komise. Původní návrh totiž počítal s tím, že by platformy kontrolovaly text ještě před odesláním, že bychom se všichni museli na chatovacích sítích identifikovat nebo že by povinně skončilo šifrování u všech aplikací. To už by opravdu bylo jako Orwellův román 1984.
Jak tedy ale děti na internetu chránit lépe, když nebudeme moct kontrolovat komunikaci na sítích?
Navrhovala jsem například, aby bylo možné sledovat komunikace pouze podezřelých osob na základě soudního povolení. Také dlouhodobě prosazuji větší rodičovskou kontrolu, prevenci, ale i podporu cíleného policejního vyšetřování.
Systémy, které určují, co je nezákonný obsah, totiž velmi často chybují a policie je pak zahlcena a nemá kapacitu ani čas řešit skutečné případy.
Dalším strašákem jsou pak také ony svlékací nástroje, o kterých jste mluvila. Mohou se před zneužitím svých fotek pmocí AI uživatelé nějak bránit?
Aplikace jako Grok na síti X nejsou omyl, je to nástroj pro AI generované sexuální násilí, které v drtivé většině případů cílí na ženy a dívky. Ne nadarmo se vám už prakticky od zveřejnění prvního ChatGPT modelu a boomu generativních modelů AI nepodařilo na těch hlavních nic erotického vygenerovat.
Pro vývojáře totiž není tak těžké tomu zabránit. Musk a další to pouze udělat nechtějí. A v ten moment tady má nastoupit politické rozhodnutí. Uživatelé se dnes ubrání těžko, proto musíme donutit platformy, aby takový obsah ani nešel vygenerovat.
Máte pocit, že jsou mladí lidé na sociálních sítích „uvědomělejší“, že znají ona rizika? Nebo jsou víc v bezpečí spíš starší generace?
Obě skupiny jsou tak trochu v nebezpečí, ale každá čelí úplně jiné zbrani. Mladí sice s technologiemi vyrostli a v nastavení soukromí se vyznají líp než kdokoli jiný, ale jejich největším nepřítelem je návykový design.
Platformy jsou postavené jako digitální automaty na dopamin. Mladí jsou sice uvědomělejší v ovládání aplikací, ale jsou zranitelní vůči algoritmům a designu, které jim ničí soustředění a duševní zdraví.
A ti starší?
Těm zase někdy může chybět digitální imunita vůči dezinformacím.
Lidé, kteří celý život vyrůstali v informačním minimu, jsou nyní vystaveni takové přehlcenosti informací a neznalosti toho, co to je například algoritmová bublina, že je pro ně velmi obtížné rozpoznat reálnou zprávu od smyšlené či lživé.
Mimochodem, zajímá téma digitální svobody a soukromí na internetu političky a politiky v Evropském parlamentu napříč generacemi?
V europarlamentu je to někdy velký střet. A je pravda, že někteří starší kolegové si například rizika spojená s nudifiers nejdříve ani moc neuměli představit, vyžadovalo to i velmi explicitní vysvětlování.
Co se týká soukromí na internetu, tam spíš vidím rozdíl u jednotlivých národností. Typicky například kolegové z postkomunistických zemí si umí představit rizika spojená s Chat Controlem daleko lépe než ti, u nichž stát k represím na základě názorů či identity nikdy nepřikročil.
Jaké sociální sítě a oblíbené aplikace používáte Vy? A jaké zásady bezpečnosti na nich dodržujete?
Už dlouho nejsem na Facebooku. K letošním narozeninám jsem si nadělila dárek a přešla z toxického X na BlueSky. Svou komunikaci jsem odvedla na Instagram, abych byla ve spojení s občany.
Jediné mé oblíbené sociální sítě jsou YouTube a Discord. Mám tam mnoho oblíbených tvůrců, na Discordu pak herní komunitu a nějaké další tematické servery. Discord mě sice nedávno dost zklamal svým zavedením ověřování věku, ale jsem také jen člověk, co potřebuje socializaci. Nechci o komunity přijít, a tak tam zůstávám.
Je pro vás tedy i důležité, kdo je majitelem platformy nebo s kým je spojená?
Ano, to je pro mě velmi důležitá otázka. Odchod z X si nemůžu vynachválit. Přikláním se k tomu, že bychom měli dát lidem jako Musk najevo, že dokážeme svou pozornost přesunout do méně toxických prostředí s transparentnějšími algoritmy.
Také jsem nedávno přestala používat ChatGPT a místo něj začala používat Claude AI. Není to perfektní transformace, ale odmítnutí prolamování soukromí pro americkou administrativu pro mě bylo dostatečným důvodem. A obecně jsem tedy snížila využívání AI na minimum.
Poslední dobou se mluví i o účtech na TikToku a Instagramu, které šíří nacistickou propagandu. Podle odborníků to pro děti může být úplně první setkání s nacismem, bez kontextu a bez školního vysvětlení. Vidíte na sítích ještě podobná nebezpečí?
Podobné nebezpečí jako u nacismu vidím u romantizace komunismu. Na TikToku a Instagramu frčí trendy jako Soviet Core, které romantizují chudobu, paneláky a totalitní symboly jako něco edgy a autentického.
Algoritmy dětem servírují srp a kladivo jako stylový módní doplněk, ale úplně z nich mažou realitu gulagů, politických procesů a nesvobody. Stejně tak se třeba z vážných diagnóz, jako jsou ADHD, autismus nebo klinická deprese, stávají masové trendy.
Jak?
Děti se sebediagnostikují na základě patnáctisekundového videa. Tím se naprosto rozmělňuje to, jak vážné tyto stavy jsou, a lidé, kteří jimi skutečně trpí, pak narážejí na nepochopení, protože „to má dneska na TikToku každej“.
Jak se tedy kromě odchodu z různých platforem bránit proti informačnímu zahlcení? Máte ještě nějaký svůj recept?
Mám na ploše svůj oblíbený meme. Známá postavička Chudjak na něm ukazuje na tabuli s nápisem „Nothing ever happens“. A taky se hodně mazlím s kočičkou.
A co hejty a specifická online nenávist? Řešíte to?
Na Instagramu se snažím udržovat diskusní kulturu v mezích základní lidské slušnosti, takže mám třeba seznam nejodpornějších vulgarit, po nichž je komentář automaticky skrytý.
V minulosti jsem byla dost cíťa a online hejty si brala, ale pomohly mi dvě věci. Vypnout si upozornění na komentáře a následně si je i přestat číst. Uvědomila jsem si, že ti lidé nemluví o mně, ale o nějakém konceptu Markéty Gregorové, který se mnou vůbec nesouvisí, existuje jen pár vteřin v jejich hlavě a pak se rozplyne.
Proč si myslíte, že jsou na sítích pod větší palbou častěji ženy političky?
Zaprvé proto, že algoritmy často podporují násilný obsah a ten je stále častěji mířený od mužů k ženám. Na lidech, které ty největší sítě vlastní a kteří ty algoritmy sestavují, je vidět, že k této nové maskulinitě mají ideologicky blízko. Facebook ostatně začal jako stránka k posuzování vzhledu spolužaček.
A zadruhé proto, že stále žijeme ve společnosti ovládané stereotypy. Ve stereotypech vyrůstáme, žijeme s nimi a mnozí lidé se nikdy nedostanou k jejich dekonstrukci. Žena je tedy vnímána jako někdo, kdo do politiky nepatří.
Jak vidíte budoucnost sociálních sítí nebo obecně internetu za deset dvacet let? Máme se bát?
Vidíme velmi rychlý nástup AI. Za pár let bude ještě častější součástí našich životů ve většině oblastí.
Máme na výběr, buď dovolíme vznik digitálního dohledu a nadvlády pár miliardářů, nebo vybudujeme svobodný a bezpečný internet bez šmírování či podporování online závislostí.
