Виклики безпеці та охороні жінок та дівчат у цифровому середовищі обговорювались під час вебінару «Загрози правам жінок через ШІ: подолання викликів та пошук рішень». Захід був організований НУО «Центр – Розвиток демократії» та Громадською радою з гендерних питань (Україна) 27 листопада 2024 року. English
Голова Громадської ради Лариса Кобелянська привітала початок обговорень, нагадавши, що Стратегія Ради Європи з гендерної рівності на 2024 рік передбачала захист жінок від негативного впливу, ризиків.
Експерти й експертки були залучені до наступних тем обговорення:
- Виклики безпеці та охороні жінок та дівчат у цифровому середовищі – Тетяна Котляренко, міжнародна експертка зі США, колишня радниця БДІПЛ ОБСЄ з питань боротьби з торгівлею людьми;
- Боротьба з технічним насильством за гендерною ознакою: сприяння глобальним реагуванням для локального впливу – Цітсі Матекайр, лідерка з припинення сексуальної експлуатації, Equality Now, Великобританія;
- Технологія Deepfake і сексуальна експлуатація – Шандра Воворунту, засновниця і генеральна директорка НУО Ментарі Програма посилення осіб, які врятувалися з торгівлі людьми, США;
- Визначення викликів і рішень для боротьби з насильством в Інтернеті щодо жінок і дівчат в Україні – Менді Сангера, міжнародна правозахисниця, Великобританія;
- ШІ у нагляді та конфіденційності: загрози безпеці жінок – Йорк Роудс, професор, Етична технічна колаборація при Центрі глобальних справ школи професійних студій Нью-Йоркського університету (NYU SPS, США);
- Алгоритми соціальних мереж і переслідування в Інтернеті – Д-р Ейрліані Абдул Рахман, старша наукова співробітниця Джорджтаунського університету, наукова партнерка Центру технологій і демократії Міндеру, Кембриджський університет;
- Відповідальний генеративний ШІ на благо: використання генеративного ШІ для вирішення серйозних соціальних проблем, таких як насильство щодо жінок – Шіран Меламдовськи-Сомех, експертка зі впливу штучного інтелекту, Generative AI for Good, Ізраїль;
- Український контекст: вплив штучного інтелекту на жінок, дівчат і хлопців у конфлікті та відбудові – Анастасія Дьякова, ГО «Центр захищеності в Інтернеті ‘Стоп Секстінг’», Україна.
Міжнародна експертка зі США, колишня радниця БДІПЛ ОБСЄ з питань боротьби з торгівлею людьми Тетяна Котляренко в оглядовому виступу зазначила, що зараз ми є на критичному перетині, коли технологія, яка може принести багато добра, стає загрозою прав людини. Необхідно реагувати на можливості штучного інтелекту – генерування діпфейк порноконтенту, кіберсталкинг тощо.
«Технології еволюціонують безпрецедентно, вони відкривають багато можливостей в інших областях, але також піддають жінок підвищеному ризику. Їхнє некоректне використання заважає жінкам на лідерських посадах: на них непропорційно сильно порівняно з чоловіками впливає харрасмент, погрози насильства, які базуються на мізогінії. Це приглушує їхні голоси і відштовхує інших жінок від походу в політику», – каже Тетяна Котляренко. Щодо діпфейк порно, то ШІ – це його основа, воно використовується переважно проти жінок і дівчат. Це використання подоби тіла жертви для компрометуючих зйомок, відео, ми бачимо нашестя цього у Південній Кореї, де це призвело до багатьох самогубств школярок, це гнітить атмосферу в школі. Не захищені від цього навіть люди з зірковим статусом.
Цифровий нагляд і кіберсталкінг нав’язливий, з ним можна слідкувати людей по публічних камерах відеоспостереження. Жінки дуже вразливі до таких впливів, це глобальна загроза, ШІ став зброєю у галузі торгівлі людьми та сексуальної експлуатації. Його залучають, щоб підбирати жертв і втягувати їх у торгівлю людьми. «Щоб відповісти на ці багатогранні загрози, треба сильна система і розширення можливостей жінок, потрібні дії для підсилення захисту. Існуючі закони часто неадекватні для нових загроз. Законотворці мають знати про способи розповсюдження порно, треба закони, які карають за поширення діпфейк порно. Такий харрасмент має отримувати так само покарання, як і інші види. Порно – це інший тип зловживання, яке може статися в інтернеті і жінки потребують захисту», – зазначила експертка.
Втім, з її слів, ШІ може і допомогти захистити. Можна розробити інструменти виявлення, щоб в реальному часі виявляти пости, як порушують стандарти, і запровадити безпечне середовище. На основі платформ ШІ можна запровадити систему скарг для жінок. Можна покращити освіту для жінок. Законодавці мають супроводжувати програми для жінок і дівчат, щоб підвищити обізнаність громадськості, працювати зі школами та іншими організаціями. Загрози ШІ не мають кордонів, потрібна міжнародна співпраця, гармонізація законодавства, треба ділитися стратегіями, технологіями, які виявилися ефективними, посилювати міжнародні механізми для переслідування злочинців, які втекли в інші юрисдикції. Мають бути розроблені етичні стандарти для ШІ, аудит систем ШІ, щоб вони не використовувалися для експлуатації, переслідування ж та д, щоб не було дискримінації та упередження у використання ШІ. Треба закінчити цикли страху та експлуатації та створити інклюзивні простори для всіх. Загрози для жінок і дівчат жахливі, але їх можна подолати, вважає Тетяна Котляренко.
Цітсі Матекайр, лідерка з припинення сексуальної експлуатації, Equality Now (Великобританія), подякувала організаторам за можливість говорити на цю важливу тему, та звернулася до політиків, наголосивши, що з’являються нові загрози, гендерне насильство з технічними засобами.
«Ми шукаємо глобальну реакцію, але їх треба пристосовувати до місцевих умов. Онлайн харасмент, кіберсталкінг, хакерство, поширення інтимних зображень, отриманих обманом, щоб контролювати особу, – це насильство відрізняється зростаючою мізогінією, немає законодавчої підтримки. Багато молодих чоловіків отримали вплив, стали вчиняти щодо жінок і дівчат в мережі. Це не лише порушує приватність дівчат і жінок, але впливає на їх психологічний стан, ментальне економічне здоров’я, на права жінок, на свободу висловлення», – зазначає громадська діячка.
Технічне гендерне насильство, за даними, зібраними у Кенії у 2019 році, має наступні показники: 65% жінок зустрічали якусь форму харрасменту в інтернеті. Загалом, за даними ООН Жінки, 50% жінок і дівчат пережили насильство онлайн, на 25% більш ймовірно, що їх будуть переслідувати, ніж щодо чоловіків. Фейки, які поширюють, є на 95% порноконтентом, 90% з них стосуються жінок і дівчат. Тут треба міжнародне законодавство, експлуататори користуються тим, що в інтернеті немає влади, є різні юрисдикції країн, у котрих насправді мало кого притягають до відповідальності. Це стосується не лише індивідів, треба системний спротив системному насильству, є нерівність влади і це спричиняє проблему.
Країни Латинської Америки розробляють закони проти технічного гендерного насильства, в Африці держави почали серйозно вивчати цю проблему в африканському контексті. «Нам треба дивитися на відповідальність технічного сектору, оскільки технології ШІ роблять багатонаціональні корпорації, технічні компанії, національні законодавства інколи нічого не можуть зробити. Жінки, дівчата і меншості є найбільш вразливими. Треба систему притягнення до відповідальності щодо технічних компаній», – наголосила експертка.
Менді Сангера, міжнародна правозахисниця з Великобританії, розповіла про досвід людей, які зазнали такої експлуатації. «Нам треба давати конкретні приклади людей, яких продавали в рабство, експлуатували за допомогою технологій. Хоча ті технології чудові, їх можна використовувати для поганих цілей. Порноконтент, який потрапив в інтернет, дуже важко вичистити. Закони проти цього є, але вони не працюють. Ми не можемо протистояти в ізоляції, треба працювати з компаніями, які роблять ці продукти. Треба, щоб жертви могли подати запит про захист. Сутенер може використати ШІ для визначення жертви, для грумінгу, для адміністрування своєї діяльності. Це може бути фізична особа, може бути організація, яка веде торгівлю людьми, це системи з бізнес-процесом, і його також веде ШІ. Ми бачили, як поліція використовує ШІ, вони створювали для проведення операцій «на живця» уявну молоду особу, в цій ситуації ШІ – хороший приклад», – стверджує Менді Сангера.
Лідерка з припинення сексуальної експлуатації Цітсі Матекайр (Equality Now, Великобританія), також наголосила, що нині йдеться про спроби «залатати дірки» цими законами, а не про системну роботу. Вони відповідають на безпосередні виклики, наприклад діпфейки, або протидіють торгівлі людьми. Потрібні закони, які забороняють технічній компанії поширювати зображення без згоди.
Професор Йорк Роудс (Етична технічна колаборація при Центрі глобальних справ школи професійних студій Нью-Йоркського університету NYU SPS, США) розповів, що на Інтернет можна дивитися через дані, подумати, як з їхньою допомогою можемо масштабувати рішення. Технологія може використовуватися як сутенерами для злочинів, так і для кібербезпеки. Це робилося і до ШІ, просто він це робить більш правдоподібним. Він може і розмовляти, а не лише висіти картинкою.
«Ми додавали інструменти, які не давали користувачам надавати забагато персональних даних, які би потім продавалися. Ми зупиняли введення номерів карток, передавання гроші тощо. Є закономірності, які свідчать про грумінг у соцмережах, чатах, ігрових платформах, там є чаит, де є публічні дані, доступні всім, і туди можна вставити скрипт для реклами, він аналізує все в геймі і в тому числі в загальнодоступному чаті, на екрані, в аудіо. Ми можемо обробляти дані, шукати закономірності, в тому числі, якщо хтось робить щось погане. Це може виглядати як звичайна розмова, але хтось може намагатися грумити дитину, а потім вони з публічного простору переходять у приватну кімнату, і тут ми вже можемо працювати, шукати ключові слова, певні тактики, які використовують мисливці на дітей», – розповів Йорк Роудс.
Шандра Воворунту, засновниця і генеральна директорка НУО Ментарі, розповіла про необхідність програм для посилення осіб, які врятувалися з торгівлі людьми або пережили онлайн наругу. Більше 90% фейків наруги, каже Шандра Воворунту, стосуються жінок і дівчат.
«Будь-який голос може бути скопійовано, наприклад, через фейсбук. Тільки подивившись на вас, ШІ може створити ціле відео, цілу картину. Що стосується сексуальної експлуатації дітей, то ШІ дуже сильно залучений. Вони просували це. Як нам запобігти? Для дітей у нас є закон, хоча він не дуже працює, на міжнародному рівні є закони, які захищають дітей. В онлайн середовищі можна знаходити закономірності у спілкуванні і визначити, що ця людина може бути клієнтом у сексуальній експлуатації. Можна подивитися ІД компа і визначити, що він використовується для роботи на платформах, де залучають жертв торгівлі людьми. Торгівці використовують трюки для захоплення жертви. Уряд також має бути частиною дієвих заходів, щоб запобігати таким зловживанням. Мають бути закони, норми, які мають бути впроваджені на низовому рівні, бо освіта є частиною рішення. В мережі відбувається таке, що ми навіть уявити не можемо, треба робити зміни законодавства й залучати освітні платформи», – зазначила експертка.
У вебінарі також взяла участь д-р Ейрліані Абдул Рахман, старша наукова співробітниця Джорджтаунського університету, наукова партнерка Центру технологій і демократії Міндеру (Кембриджський університет). Вона, з її слів, пішла з Твітера, бо після купівлі мережі Ілоном Маском там зросла онлайн агресія проти жінок. «Агресія – коли йде непряме цькування натовпом, це хтось дає можливість це робити. Пряме цькування – це коли якась авторитетна фігура постійно під вогнем критики. Я хотіла дізнатися, що відбувається у Твітері, коли ми пішли. Мої колеги почали мене переслідувати. Взагалі у Твітері значно впала модерація», – зазначила Ейрліані Абдул Рахман. На її думку, зараз можна просити платформи запобігти цькуванню.
Шіран Меламдовськи-Сомех, експертка зі впливу штучного інтелекту, Generative AI for Good (Ізраїль), розповіла, як можнавикористати силу генеративного ШІ для боротьби з харрасментом. Для прикладу – її командою був створений скріпт жінки, яку вбив у 2019 році її партнер, він забив її до смерті. Скріпт створили разом з її родиною. Була розповідь її історії з відтвореним штучним відео. Було зафіксовано 10 млн переглядів за 3 дні, відео стало новиною, це було вірусне відео, половина тих, хто переглядав були чоловіки, які зазвичай цей контент про насильство щодо жінок не дивляться. Команда таким чином поширила знання про такий тип злочинів.
In My Voice – це також проект проти торгівлі людьми. «Наші партнери в США дали нам адреси людей, які це пережили, які були продані, які пережили сексуальне насильство. Вони розповіли свою історію своїм голосом, але ми змінили їхні обличчя, зберігаючи їхню приватність. Цей проект був дуже важливим для них, вони не могли до того говорити про це відкрито, а так змогли, зберігши приватність. Такі речі можуть дати владу жертвам злочинів покращити усвідомлення громадськості про те, що відбувається», – поділилася досвідом експертка.
Анастасія Дьякова, ГО «Центр захищеності в Інтернеті ‘Стоп Секстінг’» (Україна), п’ять років працювала в українському уряді в сфері захисту дітей від насильства, від небезпек інтернету. «Тісно співпрацюємо з міжнародними артнерами, постимо на нашому порталі свої і партнерськиі матеріали. В активі є освітня кампанія, яка охопила майже 1 млн українців. Це і діти, і батьки, і інші дорослі, вчителі, правоохоронці. Ми підтримуємо дітей, які постраждали від онлайн насильства. Після 24 лютого 2022 року до нас стали звертатися жінки, багато з них з-за кордону, куди були змушені виїхати від війни, вони жалілися на онлайн-насилля. В країнах, які їх прийняли, їх закон не захистить, поліція розводить руками», – розповіла українська активістка.
Марія Дмитрієва (НУО «Центр – Розвиток демократії», Україна) модерувала та підсумувала роботу учасниць та учасників вебінару. Модераторка зазначила, що використання ШІ повинно бути етичним та інклюзивним.