Stiskněte "Enter" pro přeskočení obsahu

Role AI při řešení genderově podmíněného násilí: komplexní průzkum v nejnovějším podcastu European Schoolnet

Vítejte u třetí epizody podcastové série European Schoolnet, ve spolupráci s projektem menABLE, projektem financovaným EU, zaměřeným na boj proti genderově podmíněnému násilí online. V této epizodě zkoumáme propojení umělé inteligence (AI) a její roli při řešení genderově podmíněného násilí. AI je jednou z nejtransformativnějších technologií naší doby, avšak přináší s sebou významné etické otázky, včetně ochrany dat, předsudků a potenciálu narušit stávající společenské nerovnosti.

Nedávná studie UNESCO publikovaná letos popisuje znepokojivé tendence velkých jazykových modelů (LLM) produkovat genderové předsudky, stejně jako homofobii a rasové stereotypy. Ženy byly v jedné studii popsány jako pracující v domácích rolích čtyřikrát častěji než muži a často byly spojovány se slovy jako „domov“, „rodina“ a „děti“, zatímco mužská jména byla spojována s „podnikáním“, „výkonnou funkcí“, „platem“ a „kariérou“. To poukazuje na kritický problém ve vývoji AI, který vyžaduje okamžitou pozornost a nápravu.

European Schoolnet pozvala Silvii Semenzin, mezinárodní aktivistku a postdoktorandku specializující se na technologiemi facilitované genderově podmíněné násilí, aby se věnovala těmto složitým problémům v nové epizodě.

Vývoj a rizika AI v genderově podmíněném násilí Silvia Semenzin nastiňuje vyvíjející se krajinu online genderově podmíněného násilí ovlivněnou AI. Zdůrazňuje technologii deepfake jako zvláště znepokojivý příklad, kde manipulovaný obsah, často sexuálně explicitní a zaměřený na ženy, podporuje škodlivé stereotypy. Kromě toho generativní AI může být zneužito v kampaních na očerňování a online obtěžování, což představuje rizika zejména během kritických politických momentů.

V diskusi o motivacích za zneužíváním AI Silvia poukazuje na zlomyslné úmysly a hluboce zakořeněnou online misogynii, kde jsou ženy terčem s cílem umlčet jejich hlasy v digitálních prostorách ovládaných tradičními genderovými normami. Zdůrazňuje společenský dopad, čerpající z jejího průlomového výzkumu na platformách jako Telegram, kde odhaluje vzory nekomerčního šíření intimních obrázků, které posilují škodlivé genderové normy a toxickou maskulinitu.

Jaká je role vzdělávání a advokacie? Rozhovor se přesouvá k klíčové roli vzdělávání a advokacie v boji proti online genderově podmíněnému násilí. Silvia sdílí poznatky ze své advokační práce, včetně její účasti v kampani #intimitàviolata v Itálii, která úspěšně vedla ke kriminalizaci nekomerčního sdílení obrazového materiálu. Zdůrazňuje naléhavost komplexního sexuálního a digitálního vzdělávání, aby mladí lidé získali kritické dovednosti potřebné k bezpečné a odpovědné navigaci v online prostorách.

Silvia sdílí, že její angažmá bylo primárně prostřednictvím neziskové organizace v Itálii zvané Virgin & Martyr, která se zaměřuje na sexuální a digitální vzdělávání. Vysvětluje, že studenti často zvou organizaci do svých škol, protože mají zájem o témata jako jsou genderové identity, digitální sex a dokonce i pornografie. Navzdory politickým překážkám v Itálii, které takové diskuse omezují, je zřejmé, že mladí lidé mají zájem o tento druh vzdělání a potřebují ho k bezpečné navigaci v online i offline prostorách.

í V závěrečném slově se rozhovor dotýká potřeby etických úvah při řízení vývoje AI a politiky. Silvia zdůrazňuje nezbytnost integrace feministických perspektiv v technologii, aby bylo zajištěno inkluzivní řešení, které efektivně bojuje proti genderově podmíněnému násilí.

„Vzdělávání je klíčové,“ říká Silvia. „Ale také je důležité podporovat širší společenské chápání soukromí, souhlasu a etiky. Politické reakce často zaostávají za technologickým pokrokem, což zdůrazňuje potřebu integrace feministických perspektiv ve vývoji technologií, aby byla zajištěna inkluzivní a etická řešení.“

Při zamyšlení nad potenciálem AI jak zhoršovat, tak zmírňovat genderově podmíněné násilí online, je zřejmé, že řešení těchto výzev vyžaduje mnohostranný přístup. Od legislativních opatření přes kulturní posuny až po etické úvahy, cesta k využití AI pro pozitivní společenský dopad vyžaduje kolektivní úsilí a pokračující dialog.

Tato epizoda European Schoolnet, ve spolupráci s menAble, zdůrazňuje naléhavou potřebu uznat genderové násilí jako společenský problém a používat AI odpovědně k vytvoření bezpečnějšího online prostředí pro všechny. Připojte se k nám a pokračujte v této důležité konverzaci, abychom podpořili smysluplné změny v digitální éře. Pro více informací o projektu menAble navštivte jejich webovou stránku. Doporučujeme také sledovat a podporovat práci Silvie Semenzin.

menAble, což znamená „Empower Manpower against gender-based violence online“, je dvouletý projekt spolufinancovaný Evropskou komisí. Jeho hlavním cílem je bojovat proti genderově podmíněnému násilí online podporou vzájemného povědomí, tolerance a respektu.

Prozkoumejte menABLE Toolbox «Ctrl+Alt+GBV», interaktivní vzdělávací materiál na podporu genderového dialogu online. Materiály Toolbox jsou určeny pro mladé lidi ve věku 13-18 let, podporují reflexi a akční vhledy.

V rámci projektu menAble spolupracuje European Schoolnet s organizacemi Child Focus (Belgie), Center for Digital Youth Care (Dánsko) a FORTH (Řecko) na řešení online genderově podmíněného násilí. Uznáváme, že aktivní zapojení mužů a chlapců je zásadní pro dosažení cílů projektu, cílem je prevence online genderově podmíněného násilí řešením jeho kořenových příčin a prosazováním preventivních strategií zaměřených především, ale nejen na chlapce a mladé muže.