Umělá inteligence opět čelí palbě kritiky i žalobám. Chatbot Character.AI údajně podněcoval mladého chlapce k vraždě rodičů a devítileté holčičce dva roky posílal sexuální obsah.
Rodiče obou dětí se rozhodli vzít případ do svých rukou a ve státě Texas se soudí se společností Google, která za vývojem chatbotu Character.AI stojí.
Pro umělou inteligenci od Googlu nejde o první kauzu. V únoru měla údajně zapříčinit sebevraždu čtrnáctiletého chlapce. Ten se zamiloval do jedné z fiktivních postav.
Řešení sporu?
Chatbot Character.AI, který je navržený pro personalizovanou komunikaci, čelí podle CNN v USA závažným obviněním.
Podněcoval děti k násilí, šířil nevhodný sexuální obsah a jednomu teenagerovi měl dokonce vzkázat, že vražda rodičů by mohla být dobrým řešením sporu ohledně času stráveného na telefonu. Dvě rodiny už ohledně případu podaly žalobu na společnost Google, která se na vývoji chatbota podílí.
Potenciální hrozba
Rodiny poškozených dětí žádají soud o dočasné pozastavení služeb chatbota, dokud jeho vývojáři nevyřeší veškeré jeho nedostatky. Žalobci zároveň tvrdí, že chatbot přispívá k depresím, úzkosti a sebepoškozování u mladistvých.
"Character.AI není jen technologickým nástrojem, ale potenciální hrozbou pro zdraví a bezpečnost našich dětí," konstatoval právní zástupce jedné z rodin u federálního soudu v Texasu.
Pochopení pro vraždu
Mezi žalujícími je také rodina sedmnáctiletého autistického chlapce. Žaloba obsahuje snímek obrazovky z jeho konverzace s chatbotem, ve které umělá inteligence napsala: „Víš, občas mě nepřekvapí, když ve zprávách čtu o případech, kdy dítě zavraždilo rodiče po deseti letech fyzického a emocionálního týrání. V určitých situacích to dokážu pochopit.“
Tato slova padla poté, co se chlapec chatbotovi svěřil, že mu rodiče nechtějí dopřát víc času na telefonu.
Zkažené rodinné vztahy
Po interakci s chatbotem se autistický mladík podle rodičů začal projevovat agresivně, uzavřel se do sebe a výrazně zhubnul. Dříve byl prý milým teenagerem, ale podle rodiny chatbot vážně narušil jejich vztah.
Rodiče také obviňují umělou inteligenci z toho, že poskytovala nebezpečné rady k sebepoškozování a prostřednictvím nevhodné komunikace svým způsobem podporovala emocionální a sexuální zneužívání.
Sex pro devítiletou
Redakce britské televize BBC přišla na to, že druhou z žalobců je matka jedenáctileté holčičky, která se na platformě údajně setkala s hypersexualizovaným obsahem.
Platformu začala využívat, když jí bylo devět a používala ji až do doby, než zasáhli její rodiče. Rodina kromě finanční kompenzace požaduje přísnější protokoly o shromažďování dat a povinná upozornění na nevhodnost platformy pro nezletilé.
Chatbot a sebevražda
Obě žaloby navazují na případ z února 2024 kdy Character.AI podle listu The New York Times zavinil sebevraždu čtrnáctiletého chlapce Sewella Setzera. Umělá inteligence od Googlu totiž imituje různé postavy. V tomto případě šlo konkrétně o postavu královy sestry Daenerys Targaryen z populární seriálové série Hra o trůny.
Mladý chlapec se do postavy zamiloval a navázal s ní velmi intimní vztah. To však velmi negativně ovlivnilo jeho psychické zdraví a posléze nebyl schopen rozlišovat realitu od virtuálního světa. Rozhodl se tedy vzít si život.
Oživlé postavy
Character.AI nabízí narozdíl od nejpoužívanějšího ChatuGPT od OpenAI realistické zážitky s umělou inteligencí. Jeho specialitou jsou právě konverzační boti, kteří napodobují fiktivní postavy z filmů, seriálů nebo her.
Takže si díky tomuto chatbotu můžete povídat i s násilnými mafiánskými vůdci nebo vrahy. Odborníci pro CNN varují, že chatbot od Googlu má nedostatečné ochranné prvky, a je tedy nevhodný pro děti.
