Інтернет радикалізує білих людей. Big Tech може зробити більше

[Social_share_button]

Існує ще багато чого, чого ми не знаємо про підозрюваного і його тлі. Але перш, ніж ми дізнаємося про це, кожен, хто вивчив або охопив екстремізм і такі напади, міг би залишити вас з точним уявленням такого роду: Людина. Напевно, у двадцяті роки. Удачі мати хоча б незначний судимість. Напевно, історія ненависті або насильства над жінками. Ох, і ще одна річ - напевно витратив багато часу в Інтернеті.

Люди можуть легко радикалізуватися перед соціальними медіа. Без нього багато хто досі радикалізується. Але соціальні медіа, часто поєднуються з іншими факторами, виявилися ефективним радикалізатором, частково тому, що це полегшує формування спільнот і частково через його алгоритми, які використовуються для переконання людей залишитися трохи довше. довго. більше відео, натисніть ще одну річ, генеруйте трохи більше доходів від реклами.

Комбінуйте ці алгоритми з незадоволеними людьми, які можуть відчути, що світ більше заборгує, і у вас є рецепт для створення екстремізму будь-якого роду. 19659004] "Вони приймають ідеологію, яка допомагає їм виправдовувати свій гнів, своє розчарування і щось доступне", сказала Джессіка Стерн, професор досліджень в Школі глобальних досліджень ім. - Автор книги "ISIS: Держава терору", повідомляє CNN Business у п'ятницю. «Тероризм - модне явище. Ми помітили, що люди, які звернулися до ідеології, не були мусульманами, а перейшли до ісламу. Ідеологія ісламської держави була привабливим способом для деяких з цих людей висловити свій гнів і розчарування. інша ідеологія, яка стає дуже популярною, - це інша примха. "

Незважаючи на широко заслужену критику, яку вони отримали нещодавно, про всі речі, яких вони не зробили, соціальні мережі активізувалися і зробили реальний поворот. і вражаючі дії проти потопу прихильників та змісту ISIS. Великі технологічні компанії тепер можуть вживати подібні дії проти білих суперників.

"Проблема на основних сайтах зазвичай є агресивним придушенням" змісту, пов'язаного з ISIS, сказав заступник директора програми екстремізму в Університеті Джорджа Вашингтона Сіамус Хьюз. "Така ж динаміка не відбувалася в перевазі білого".

Як терористична атака в Крайстчерчі була здійснена для соціальних медіа

Компанії тепер можуть діяти проти білих верховенства. Фактично, вони могли б продовжувати назавжди, таким чином граючи з різними рухами, які з'являються і починають радикалізувати своїх користувачів, діючи проти них після того, як було вбито достатньо людей. Їм було б легше зробити це, ніж фактично розібратися з основною проблемою цих алгоритмів, розроблених для того, щоб тримати людей поруч.

«Це має сенс з маркетингової точки зору; якщо вам подобається Pepsi, ви будете дивитися більше відео Pepsi ... але ви берете це до логічного крайності з відео білого переваги, "сказав Х'юз. "Їм доведеться знайти спосіб не повністю виключити систему, яка принесла їм сотні мільйонів доларів доходу від реклами, не заохочуючи радикалізації або вербування когось".

Можливо, найбільш знеохочуючим аспектом цього явища є те, що компаніям неодноразово повідомляли, що у них є проблеми. Бен Коллінз, журналіст NBC News, в п'ятницю «Дослідники і журналісти, що спеціалізуються на екстремізмі (у тому числі і я), попереджали компанію електронною поштою, телефоном і особами своїх співробітників після останнього терористичного нападу. ми б знову показали ознаки радикалізації на YouTube, але результат був би гіршим. Я буквально сміявся. "

Так що ж тепер повинні робити платформи?

Відповідаючи на це запитання, Біл Бранифф, директор Національного консорціуму з вивчення тероризму і тероризму (START) і професор права в Університеті Меріленда, сказав: "Що я вважаю, що ми повинні запитати їх робити це - продовжувати зменшувати важливість і масштаби насильницьких екстремістів. пропаганда, яка закликає до насильства ... але не обмежуйте себе простим вилученням контенту як способу зробити це. Що відбувається, коли велика платформа видаляє цей вміст або ці погляди, те, що вміст просто переходить на менші платформи. ... може бути менше людей Ми будемо піддаватися з часом, і це гарна річ, але це не те ж саме, що і загальне рішення. "

Тільки видалення вмісту може сприяти історії переслідувань і привести людей до більш дрібних, більш радикальних об'єктів, зазначив Браніф. І він думає, що це означає відмову від можливості використовувати алгоритми для перенаправлення, а не підкріплення.

"Ми знаємо, що людей (...) можна реально лікувати шляхом консультування [і] наставництва", - сказав він. "Якщо замість того, щоб керувати тими, хто, ймовірно, фліртуватиме з екстремізмом, якщо ви цензуруєте і вилучите їх з цих платформ, ви втратите ... можливість надати їм вихідну рампу".

Відзначивши, що платформи завжди повинні приймати зміст, який явно закликає до насильства, що також порушує їх умови надання послуг, Браніф сказав: "Деякий контент не порушує умови використання, і тому питання, Ви можете переконатися, що інформація контекстуальна з відео до і після потоку? "

Повне рішення, яке він бачить, є модифікацією алгоритмів, так що вони можуть розповідати людям різні точки зору або навіть, в деяких випадках, підтримку, наприклад, консультування.

"Алгоритми можуть або сприяти груповому мисленню і зміцненню, або стимулювати обговорення", - сказав він. "На даний момент персоналізований зміст має тенденцію бути:" Я думаю, що ви будете любити більше того ж ", і, на жаль, це ідеальний сценарій для не тільки насильницького екстремізму, але й поляризації ... Ми ділимо лише підмножинами інформації. зняти середину, місце, де ми зустрічаємося, щоб обговорити різні ідеї ... [a] Поляризація є важливою частиною насильницького екстремізму. Це дійсно небезпечно. "

Ця стаття з'явилася спочатку https://www.cnn.com/2019/03/17/tech/youtube-facebook-twitter-radicalization-new-zealand/index.html