Зверніть увагу: у статті згадуються випадки самогубства й кризові психічні стани.

«Моя робота – не допускати грішні зображення», – каже одна з героїнь  документального фільму "Чистильники", яким завершив свою програму Мандрівний Docudays UA  у Львівській області. «У мені немовби вірус, він повільно проникає в мій мозок» — говорить інша учасниця стрічки.

У центрі уваги «Чистильників» – те, що відбувається «по той бік» стандартів спільноти Facebook та інших великих платформ. Фільм дав можливість прозвучати забороненим голосам – працівникам і працівницям, які щодня переглядають тисячі світлин і відео, позначених як недозволені на тій чи іншій платформі. Їхня роль – за лічені секунди вирішити, чи вилучити матеріал, чи залишити. Тисячі завантажень за день. Серед них є жахливі й відверто негативні зображення: насильство, вбивства, дитяча порнографія, знущання над тваринами, самогубства тощо. Але також і складніші оцінки: екстремістська пропаганда? Мова ненависті? Вилученню підлягають і карикатури на Трампа й Ердогана з сексуальним підтекстом. Відеодокази військових злочинів у Сирії. Зображення хлопчика, який загинув від затоплення.

Модератори не мають права розповідати про свою роботу, оскільки змушені були підписати угоди про нерозголошення. Найбільше вони бояться пропустити матеріал, який варто було вилучити. Модератори мають право тільки на три помилки протягом місяця із десятків тисяч дописів. Великі платформи намагаються залишити людську, ручну роботу якомога більш невидимою й таємною – від модераторів вмісту до працівників, які розшифровують звертання людей до голосових асистентів типу Alexa чи Siri у випадках, коли алгоритм не може із цим впоратися.

Ця робота не вписується у візію легкості й безтурботності, з якою часто рекламують себе тех-гіганти. Усе мусить бути доступне одним клацанням, без зусиль і зайвих вагань. Поки Марк Цукерберг хвалиться тим, як завдяки Фейсбукові кожна людина має можливість висловитися (можливість, яка існувала в Інтернеті задовго до появи Фейсбука), алгоритми і люди невпинно працюють, щоб створити на цих комерційних платформах уніфіковану, відфільтровану реальність, яка встановлює універсальний формат спілкування та універсальні табу.

У книзі «Який чудесний світ новий!» Олдоса Гакслі змальовано «досконалу» цивілізацію, де всі базові потреби жителів повністю забезпечено, кожен і кожна на своєму місці, задоволення завжди під рукою, а будь-яке відхилення настрою від безтурботної легкості миттєво врегулює ейфорійна «сома», яку вживають більшість героїв книжки. Цей світ стерильний, у ньому немає нічого неприємного для ока, нічого, що б відволікало від щоденної безтурботності. «Дописи із зображеннями, які можуть налякати чи шокувати читачів» – один із пунктів у посібнику для модераторів Facebook, що описує вміст, який підлягає вилученню.

Токсична праця

Фейсбук та інші великі платформи наймають людей для модерування вмісту через фірми-посередники. Станом на лютий 2019 року, це близько 15 тис осіб. Умови роботи передбачають перегляд від сотень до тисяч зображень щодня, вміст яких призводить у деяких модераторів до панічних атак, депресії, посттравматичного стресового розладу й навіть самогубства. Для порятунку від стресу працівники одного з офісів займалися сексом безпосередньо на роботі й вживали наркотики та алкоголь. Коштом «стерильності» вмісту великих платформ є аутсорсована праця людей, які дивляться на бруд замість нас. Наскільки прийнятним для нас є така фільтрація? Чи є інші способи налагодження якісного спілкування в цифровій площині?

Правила спілкування для всього Інтернету?

Хто і як повинен визначати правила поведінки й спілкування для мільярдів людей, які використовують Інтернет?

Перш ніж шукати відповідь на це запитання, варто поставити собі інше – чим же є Інтернет? Усе доволі просто: це мережа мереж. Вона єднає різноманітні комп’ютерні мережі в одну «надмережу» на основі відкритих стандартів обміну даними. Завдяки їй вам не потрібно окремо купувати доступ до перегляду відео, окремо проводити собі електронну пошту й окремо передплачувати відеодзвінки з близькими. Усе це – одна мережа, де будь-яка публічна IP-адреса може обмінюватися даними з будь-якою іншою. Принцип «мережі мереж» віддзеркалюють і базові технології Інтернету, як-от  електронна пошта чи веб: ви можете вільно листуватися з людьми, які користуються іншим провайдером електронної пошти; можливість лінкувати між собою вебсторінки незалежних один від одного вебсайтів є основоположним принципом вебу. В Інтернету немає єдиного власника, який міг би встановлювати обов’язкові  для всіх правила висловлювання.

Саме тому кожна конкретна онлайн-спільнота самостійно формує свої правила спілкування й взаємодії та намагається забезпечити їх дотримання. Нерідко на роль модераторів обирають досвідчених членів чи членкинь серед спільноти. Але централізовані комерційні платформи на зразок Фейсбука ламають цей принцип: вони намагаються сконцентрувати обмін інформацією всередині конкретного вебсайту чи сервісу, зібрати в його межах якомога більше людей і монетизувати їхню увагу, продаючи її рекламодавцям. Це більше не мережа мереж, а лише вебсайт, який належить конкретним людям. Але на одному з таких приватних сайтів зареєстровані два мільярди людей, і значна частина їхнього спілкування і взаємодії відбувається власне там. Платформа стає вікном, через яке її користувачі й користувачки дивляться на відкритий Інтернет. Для всіх них Фейсбук прагне встановити однакові стандарти поведінки й правила висловлювання, які не сформовані конкретною тематичною спільнотою, а призначені зверху платформою згідно з її пріоритетами. Використання машинально-рутинної праці модераторів у таких умовах стає неуникним інструментом впровадження єдиних стандартів для 2 мільярдів користувачів платформи.

Назад у майбутнє: децентралізація

І хоча мовиться всього-на-всього про кілька вебсайтів, дедалі частіше керівництво цих сайтів починають трактувати як своєрідних «шефів Інтернету», які повинні брати на себе роль формування того, що можна, а що не можна писати чи читати в Інтернеті.  Пошукові системи й платформи нерідко йдуть на поступки авторитарним (і не тільки) державам, фільтруючи пошук, блокуючи вміст і навіть змінюючи картину реальності для громадян цих держав. Усе це виникає внаслідок унікальної монопольної позиції цих платформ, яка дає їм можливість впливати на те, як мільйони людей взаємодіють з інформацією. Проте здатність людей самостійно творити цифрові мережі горизонтально й децентралізовано – основа Інтернету. Навіть паралельно до Інтернету, поки він ще не був доступний широкому загалу, люди з різних континентів творили власні незалежні мережі за допомогою телефонних ліній.  Наприклад, мережа Fidonet у середині 1990-х мала мільйони користувачів і близько 40 тис. вузлів. В Україні теж були люди, які приєднувалися до цієї мережі на початку 1990-х.

У Кубі, де доступ до Інтернету й досі суворо обмежений владою, а імпорт мережевого обладнання забороненений, виникли низові, незалежні мережі в Гавані й інших містах, що об’єднують десятки тисяч комп’ютерів простих мешканців. У цих мережах навіть є свої вебсайти. І все це через політичні причини від’єднання від глобального Інтернету. Здатність формувати власні децентралізовані мережі проявляє себе й у світі так званих соцмереж. Якщо Фейсбук чи Твітер дозволяють взаємодію лише всередині їхньої платформи¹, то децентралізовані соцмережі втілюють ідею «мереж мереж», тобто незалежних один від одного серверів, користувачі й користувачки яких можуть вільно спілкуватися одне з одними, навіть якщо вони зареєстровані на різних серверах. Навіть більше, маючи обліківку, скажімо, Mastodon (мікроблогова платформа), ви можете в самій мережі «дружити» й коментувати дописи когось із Pixelfed (аналог Instagram), PeerTube (децентралізована відеоплатформа), Funkwhale (музична спільнота) чи безлічі інших сумісних мереж. Колективно, ці мережі називають Fediverse.

Модерація в цих умовах відбувається більш горизонтально й розподілено. Наприклад, коли онлайнова спільнота людей із крайньоправими поглядами під назвою Gab почала використовувати програмне забезпечення Mastodon на їхньому сервері, адміністратори інших серверів Mastodon поступово додали Gab до «чорного списку» вузлів, з якими їхній вузол не буде підтримувати зв’язок. Таким способом мережа колективно витісняє речі, які є для неї неприйнятними. Однак, продовжуються пошуки нових механізмів захисту від небажаної взаємодії в Інтернеті.

Віртуальне vs реальне

Однією з найнапруженіших сцен фільму «Чистильники» є спогад одного з модераторів про випадок, коли він та його команда бачили пряму трансляцію самогубства. За його словами, згідно з правилами вони не могли заблокувати трансляцію, оскільки це стало б «перевищенням повноважень» модераторів: відео самогубств заборонені на платформі, але щось, що ще не стало самогубством, не є забороненою категорією вмісту. Трансляцію коментувало багато людей – частина з них просили хлопця не робити цього; частина – жартували й спонукали його здійснити свій задум. Зрештою, так і сталося. Відкритим залишилось для нас запитання – якби модератори заблокували трансляцію раніше, чи зупинило б це самогубство? Чи лише приховало б його від очей сторонніх людей? Чи справді централізоване вилучення онлайн-вмісту, який зображує насильство, сприяє зменшенню насильства у фізичній реальності?

Наскільки намагання створення корпоративних, державних чи міждержавних систем відстеження й обмеження висловлювання в Інтернеті може відвертати нашу увагу від реальних проблем у фізичному світі, у якому ми живемо, замість того, щоб спонукати нас шукати причини й джерела появи в Інтернеті цього негативного вмісту? Простих відповідей на ці запитання немає. Але це не означає, що цих відповідей не потрібно шукати.