Бъдещето на свободата на словото, троловете, анонимността и фалшивите новини онлайн



Интернет поддържа глобална екосистема на социално взаимодействие. Съвременният живот се върти около мрежата с нейните актуализации на статуса, новинарски емисии, вериги за коментари, политическо застъпничество, вездесъщи рецензии, класации и рейтинги. През първите няколко десетилетия този свързан свят беше идеализиран като неограничен граждански форум: пространство, където разнородни възгледи, идеи и разговори могат да се сближат конструктивно. Неговите създатели бяха вдъхновени от оптимизма, залегнал в основата на Stuart Brand’s WELL през 1985 г., в съоснователя на World Berrow-Lee на Тим Бърнърс-Лий и Electronic Frontier Foundation „Декларация за независимост на киберпространството“ от 1996 г. Очакваха интернет да създаде равни условия за обмен на информация и комунални дейности между отделни лица, предприятия, други организации и държавни участници.


Едно от най-големите предизвикателства ще бъде намирането на подходящ баланс между защитата на анонимността и налагането на последици за злоупотребата, на която е позволено да характеризира онлайн дискусиите твърде дълго.
Бейли Полша

От началото на 2000-те години, по-широкото разпространение на мрежата, зората на Web 2.0 и все по-влиятелните въздействия на социалните медии и узряването на стратегическото използване на онлайн платформи за въздействие върху обществеността за икономическа и политическа печалба са променили дискурса. През последните години известни интернет анализатори и широката общественост изразиха все по-голяма загриженост, че съдържанието, тонът и намерението на онлайн взаимодействията са претърпели еволюция, която застрашава тяхното и тяхното бъдеще. Събитията и дискусиите, които се развиват през изминалата година, подчертават предстоящите борби. Между тях:

  • Уважаваният ученик в интернет Джон Натън попита в „Гардиън“: „Интернетът превърна ли се в пропадна държава?“ и най-вече отговори положително.
  • Американският сенат изслуша свидетелства за все по-ефективното използване на социалните медии за напредъка на екстремистките каузи и нарастваше вниманието към това как социалните медии стават оръжия от терористи, създавайки нови ефективни видове пропаганда.
  • Учените предоставиха доказателства, показващи, че социалните ботове са били приложени в действия, насочени към прекъсване на президентските избори през 2016 г. в САЩ. И новинарски организации документираха как чужди тролове бомбардират американските социални медии с фалшиви новини. Изследване на изследователския център Pew от декември 2016 г. установи, че около двама от трима възрастни в САЩ (64%) казват, че измислените новини предизвикват голямо объркване относно основните факти на текущите проблеми и събития.
  • Доклад на Pew Research Center от май 2016 г. показва, че 62% от американците получават новините си от социалните медии. Фархад Манджу от „Ню Йорк Таймс“ твърди, че „Интернет разхлабва хватката ни за истината“. А колегата му Томас Б. Едсал подготви обширен списък с научни статии след изборите, които нарисуваха как интернет застрашава демокрацията.
  • 2016 г. беше първата година, в която интернет мем проникна в базата данни на Антидифамационната лига на символите на омразата.
  • Списание Time посвещава корица от 2016 г., за да обясни „защо губим интернет заради културата на омразата“.
  • Мобингът в социалните медии на знаменитости се засили. Един пример: Актьорът на „Ghostbusters“ и член на актьорския състав на Saturday Night Live Лесли Джоунс е бил публично тормозен в Twitter и е бил хакнат личния й уебсайт.
  • Доклад в индустрията разкри как бивши работници във Facebook потискат консервативното съдържание с новини.
  • Множество новинарски статии показват, че държавните участници и правителствата са увеличили усилията си за наблюдение на потребителите на незабавни съобщения и социалните медии
  • Центърът за бъдещето на войната стартира Инициативата за оръжие с разказ.
  • Много експерти документираха начините, по които „фалшивите новини“ и онлайн тормозът може да са нещо повече от „странични продукти“ в социалните медии, защото те помагат за увеличаване на приходите.
  • #Pizzagate, казус, разкри как различните набори от слухове могат да се комбинират, за да оформят публичния дискурс и понякога потенциално да доведат до опасно поведение.
  • Scientific American извърши анализ на девет автора за влиянието на дискурса от инструментите за изкуствен интелект (AI), отбелязвайки: „По този начин се контролираме все по-успешно от дистанция ... Тенденцията преминава от програмиране на компютри към програмиране на хора ... нещо като цифров скиптър, който позволява на човек да управлява ефективно масите, без да се налага да включва гражданите в демократични процеси “.
  • Google (със своя перспективен API), Twitter и Facebook експериментират с нови начини за филтриране или етикетиране на негативен или подвеждащ дискурс.
  • Изследователите проучват защо хората тролят.
  • И барабан от истории извън Европа отразява как правителствата се опитват да ограничат фалшивите новини и речта на омразата, но се борят да примирят притесненията си с широки правила за свобода на словото, които се прилагат в Америка.

За да осветят настоящите нагласи относно потенциалните въздействия на онлайн социалното взаимодействие през следващото десетилетие, изследователският център на Pew и Imagining the Internet Center на Университета Илон проведоха мащабно проучване на технологични експерти, учени, корпоративни специалисти и държавни лидери. Около 1537 отговориха на тези усилия между 1 юли и 12 август 2016 г. (преди разкритията в края на 2016 г. за потенциална манипулация на общественото мнение чрез хакване на социални медии). Те бяха помолени:

През следващото десетилетие ще стане ли публичният дискурс онлайн повече или по-малко оформен от лоши актьори, тормоз, тролове и общ тон на схващане, недоверие и отвращение?


В отговор на този въпрос,42%от респондентите посочиха, че очакват „без съществена промяна“ в онлайн социалния климат през следващото десетилетие39%заявиха, че очакват онлайн бъдещето да бъде „по-оформено“ от негативни дейности. Тези, които заявиха, че очакват интернет да бъде „по-малко оформен“ от тормоз, тролинг и недоверие, бяха в малцинството. Някои19%каза това. Респондентите бяха помолени да уточнят как очакват прогресирането на онлайн взаимодействието през следващото десетилетие. (Вижте „За това проучване на експерти“ за повече подробности относно ограниченията на тази извадка.)



Участниците също бяха помолени да обяснят своите отговори в писмена разработка и бяха помолени да разгледат следните подкани:1)Как очаквате социалните медии и цифровите коментари да се развият през следващото десетилетие?2)Мислите ли, че ще видим широко търсене на технологични системи или решения, които насърчават по-приобщаващи онлайн взаимодействия?3)Какво мислите, че ще се случи със свободата на словото? И4)Какви могат да бъдат последиците за анонимността и неприкосновеността на личния живот?


Докато респондентите изразиха редица мнения от дълбока загриженост до разочарование до оставка до оптимизъм, повечето се съгласиха, че хората - в най-добрия и в най-лошия си вид - са овластени от мрежовите комуникационни технологии. Някои казаха, че пламенните войни и стратегическите манипулации на цайтгайст може би просто започват, ако не бъдат въведени технологични и човешки решения, които да засилят разнообразния граждански дискурс.

Редица респонденти прогнозираха, че системите за онлайн репутация и много по-добрите решения за сигурност и модериране ще станат почти повсеместни в бъдеще, което ще затрудни все повече „лошите актьори“ да действат разрушително. Някои изразиха опасения, че такива системи - особено тези, които премахват възможността да участват анонимно онлайн - ще доведат до променена динамика на властта между правителствени / държавни участници, елитите и „обикновените“ граждани.


Анонимността, ключова възможност за ранния интернет, е елемент, който мнозина в това атестиране приписват на разрешаването на лошо поведение и улесняването на „неграмотен дискурс“ в споделени онлайн пространства. Пречистването на анонимността на потребителите се разглежда като евентуално водещо до по-приобщаваща онлайн среда и също така създава почвата за правителствата и доминиращите институции да използват още по-свободно инструменти за наблюдение, за да наблюдават гражданите, да потискат свободата на словото и да формират социалния дебат.

Повечето експерти прогнозираха, че създателите на отворени социални пространства в глобалните комуникационни мрежи ще имат затруднения да подкрепят положителна промяна в „почистването“ на обмена на информация в реално време и споделянето на различни идеологии през следващото десетилетие, тъй като милиони повече хора около света се свързва за първи път и сред милиардите, които вече са онлайн, има много, които се състезават в своеобразна надпревара във въоръжаването, за да хакнат и подменят коригиращите системи.

Тези, които вярват, че проблемите с тролинг и други токсични поведения могат да бъдат решени, казват, че лечението също може да бъде доста вредно. „Едно от най-големите предизвикателства ще бъде намирането на подходящ баланс между защита на анонимността и налагане на последици за злоупотребата, което е било позволено да характеризира онлайн дискусиите твърде дълго“, обясни експертътБейли Полша, автор на „Хейтъри: тормоз, злоупотреба и насилие онлайн“.

По-голямата част от това агитиране бяха съпричастни към онези, които са били малтретирани или заблудени в настоящата онлайн среда, като изразиха опасения, че най-вероятните решения ще позволят на правителствата и големите предприятия да използват системи за наблюдение, които следят гражданите, потискат свободата на словото и формират дискурса чрез алгоритми, позволявайки на тези които пишат алгоритмите за извайване на граждански дебат.


Сюзън Етлингер, индустриален анализатор в Altimeter Group, премина през бъдещ сценарий на тит-за-тат, действие-реакция, която завършва в това, което тя нарича „интернет на Потьомкин“. Тя пише: „През следващите няколко години ще видим увеличаване на вида и обема на лошото поведение онлайн, най-вече защото ще има съответно увеличение на дигиталната активност. ... Кибератаките, доксингът и тролингът ще продължат, докато социалните платформи, експерти по сигурността, етици и други ще спорят за най-добрите начини за балансиране на сигурността и поверителността, свободата на словото и защитата на потребителите. Голяма част от това ще се случи публично. По-тревожната възможност е, че защитниците на неприкосновеността на личния живот и безопасността, в стремежа си да създадат по-безопасен и равен интернет, ще тласнат лошите актьори в по-скрити канали като Tor. Разбира се, това вече се случва, просто извън полезрението на повечето от нас. Най-лошият резултат е, че се оказваме с един вид интернет на Потьомкин, в който всичко изглежда сравнително ярко и слънчево, което крие по-тревожна и по-малко прозрачна реалност “.

Друга контекстна точка за тази непредставителна извадка от определена популация: Въпреки че поставеният от нас въпрос не беше непременно насочен към получаване на възгледи на хората за ролята на политическия материал в социалните пространства в мрежата, той неизбежно привлече коментари в тази насока, тъй като това проучване беше проведен в разгара на ожесточени, интензивни избори в Съединените щати, където по-специално един от кандидатите беше провокативен потребител на Twitter.

Повечето участници в това агитиране написаха подробни разработки, обясняващи своите позиции. Техните добре обмислени коментари дават представа за обнадеждаващи и свързани с тенденциите. Позволено им беше да отговорят анонимно и мнозина избраха да го направят.

Тези констатации не представляват всички възможни гледни точки, но разкриват широк спектър от поразителни наблюдения. Респондентите колективно формулираха четири „ключови теми“, които са въведени и накратко обяснени по-долу и след това разширени в по-подробни раздели.

Следващият раздел представя кратък преглед на най-очевидните теми, извлечени от писмените отговори, включително малка селекция от представителни цитати, подкрепящи всяка точка. Някои отговори са леко редактирани за стил или поради дължина.

Тема 1: Нещата ще останат лоши, защото да тролиш е човешко; анонимността подпомага антисоциалното поведение; неравенствата движат поне част от възпалителния диалог; и нарастващият мащаб и сложност на интернет дискурса прави това трудно победимо

Докато някои от анкетираните виждаха проблеми с неграмотно поведение онлайн на някакво плато по време на това агитация през лятото на 2016 г. и няколко очакват решенията да намалят речта на омразата, дезинформацията и манипулациите, огромното мнозинство споделя поне някои опасения, че нещата могат влошава се, така че две от четирите основни теми в този доклад започват с фразата „Нещата ще останат лоши“.

Гласът на индивида има много по-висока възприемана стойност, отколкото в миналото. В резултат на това има повече хора, които ще се оплакват онлайн в опит да привлекат внимание, съчувствие или възмездие.
Анонимен софтуерен инженер

Редица експерти-респонденти отбелязват, че негативният онлайн дискурс е само последният пример за многото начини, по които хората упражняват социален витриол в продължение на хилядолетия.Джери Михалски, основател на REX, написа, „Много бих искал да повярвам, че дискурсът ще се подобри през следващото десетилетие, но се страхувам, че силите, които го влошават, все още не са изиграни. В крайна сметка ни отне почти 70 години, за да наложим колани. И ние не сме еднакво мъдри за това как да водим надеждни онлайн разговори, без значение дебати по трудни теми. В онази дълга история на историята, която се навежда към справедливостта, особено предвид ускорените ни времена, мисля, че разбрахме това. Но не в рамките на десетилетието “.

Дойде Елен, Член на Залата на славата в Интернет, вицепрезидент на Google и съавтор на Интернет протокола, обобщи някои от вредните ефекти на разрушителния дискурс:

„Интернет е заплашен от фрагментация“, пише той. „... Хората се чувстват свободни да правят неподдържани твърдения, твърдения и обвинения в онлайн медиите ... Както сега стоят нещата, хората са привлечени от форуми, които се привеждат в съответствие с тяхното мислене, което води до ехо ефект. Това самоукрепване има някои от елементите на поведение на тълпата. Лошото поведение по някакъв начин се оправдава, защото „всички“ го правят ... Трудно е да се види накъде може да се насочи това явление ... Социалните медии привличат вниманието ни към всяко лошо събитие, карайки ни да се чувстваме така, сякаш всички те са се случили в задните ни дворове - което води до цялостно чувство на безпокойство. Комбинацията от анклави за подсилване на пристрастията и глобален достъп до лоши действия изглежда като токсична комбинация. Не е ясно дали има начин да се балансира социално вредното им въздействие “.

Подтема: Троловете са с нас от зората на времето; винаги ще има някаква неприветливост

Anанонимен респонденткоментира, „Тонът на дискурса онлайн е продиктуван от фундаменталната човешка психология и няма да бъде лесно променен“. Това изявление отразява нагласата на експертни интернет технолози, изследователи и специалисти, повечето от които са съгласни, че именно хората, които използват мрежата, а не мрежата, са в основата на проблема.

Пол Джоунс, клиничен професор и директор на ibiblio.org в Университета на Северна Каролина, Чапъл Хил, коментира, „Идентификаторът, който не е свързан от наблюдението и контрола от суперегото, е както създателят на комуникацията, така и врагът на разбирането и любезността“.

Джон Катон, старши софтуерен инженер, написа: „Тролингът за аргументи е интернет традиция от Usenet. Някои услуги може да са в състояние да смекчат проблема леко, като принудят хората да използват истинската си самоличност, но където и да имате анонимност, ще имате хора, които са там, само за да ядосат други хора “.

И единанонимен софтуерен инженеробясни защо обичайното ниво на човешка непримиримост е увеличено от интернет, отбелязвайки: „Гласът на индивида има много по-висока възприемана стойност, отколкото в миналото. В резултат на това има повече хора, които ще се оплакват онлайн в опит да привлекат внимание, съчувствие или възмездие “.

Подтема: Тролирането и други деструктивни поведения често се получават, защото хората не разпознават или не се интересуват от последствията, произтичащи от техните онлайн действия

Майкъл Клейман, по-рано в Бостънската консултантска група, Артър Д. Литъл и Спринт, сега старши сътрудник в Института за глобални конфликти и сътрудничество в Калифорнийския университет в Сан Диего, обясни: „В исторически план общностите на практика и разговори са имали други, често физически , връзки, които създадоха норми на поведение. И актьорите обикновено биха били идентифицирани, а не анонимни. Увеличената анонимност, съчетана с увеличаване на по-малко информирания принос, без отговорност от страна на участниците, има тенденция и ще продължи да създава по-малко отворени и честни разговори и повече едностранчиви и негативни дейности “.

Сега троловете знаят, че техните методи са ефективни и носят само минимален шанс за социална стигма и по същество никакво друго наказание.
Анонимен респондент

Експертреспондент, който е избрал да не бъде идентифициранкоментира, „Хората са досадни и ужасни онлайн до голяма степен, защото могат да бъдат анонимни“. И още един такъвреспондентпише, „Троловете сега знаят, че техните методи са ефективни и носят само минимален шанс за социална стигма и по същество никакво друго наказание. Ако Gamergate може да тормози и преследва всяка жена с мнение и в резултат на това няма наказание, как нещата могат да се подобрят?

Анонимно,професор в Масачузетския технологичен институт (MIT)коментира: „Виждаме тъмен поток от хора, които приравняват свободата на словото с правото да казват каквото и да било, дори речта на омразата, дори речта, която не се синхронизира с уважаваните констатации от изследванията. Те намират в независимата технология място, където техните мнения могат да имат мултиплициращ ефект, къдетестанете елитите “.

Подтема: Неправителствата задвижват поне част от възпалителния диалог

Някои водещи участници в това агитиране заявиха, че тонът на дискурса ще се влоши през следващото десетилетие поради неравенства и предразсъдъци, отбелязвайки неравенство в богатството, издълбаване на средната класа и хомофилност (тенденцията на хората да се свързват с подобни на тях и по този начин също понякога да избягва онези, които се възприемат като „другия“).

За съжаление, виждам настоящото разпространение на тролинга като израз на по-широка обществена тенденция в много развити страни, към воюващ фракционизъм в публичния дебат, с конкретни атаки, насочени срещу жени, както и етнически, религиозни и сексуални малцинства.
Аксел Брунс

Кори Доктороу, писател, резидент по компютърни науки в MIT Media Lab и съсобственик на Boing Boing, предложи мрачна оценка, като написа „Томас Пикети и т.н., правилно прогнозира, че сме в ера на по-голяма социална нестабилност, създадена чрез по-голямо неравенство в богатството, което може да бъде решено само чрез заможни колективно избрали решение за преразпределение (което се чувства малко вероятно) или чрез всички останали, принудителни за преразпределение (които се чувстват разхвърляни, нестабилни и потенциално насилствени). Интернет е естественото бойно поле за каквато и точка на пробив да достигнем, а също така е полезен инструмент за наблюдение, контрол и пропаганда за хора, които се надяват да предотвратят преразпределително бъдеще. Китайската интернет книга за игри - армията от 50 в, маси от астротурфисти, кампании за клевета срещу „държавните врагове“, параноична реторика за война срещу тероризма - до известна степен се превърна в книгата за игри на всички държави (вж. Напр. HB Gary изтичане, което разкри, че ВВС на САЩ публикуват търгове за софтуер за „управление на персонала“, който позволява на оперативните работници да контролират до 20 различни идентичности онлайн). Това ще създаде още по-разпалващ диалог, пламъци, поляризирани дебати и т.н. “.

И единанонимен професор в MITотбеляза, „Традиционните елити загубиха доверието си, защото се свързаха с неравенството в доходите и социалната несправедливост ... Тази динамика трябва да се промени, преди онлайн животът да може да играе по-оживена роля в живота на държавата. Вярвам, че ще стане, но бавно “.

Аксел Брунс, професор в Центъра за изследвания на цифровите медии в Технологичния университет на Куинсланд, каза: „За съжаление виждам настоящото разпространение на тролинга като израз на по-широка обществена тенденция в много развити страни, към воюващ фракционизъм в публичния дебат, с конкретни насочени атаки както при жените, така и при етническите, религиозните и сексуалните малцинства “.

Подтема: Непрекъснато разширяващият се мащаб на интернет дискурса и нарастващата му сложност затрудняват справянето с проблематично съдържание и сътрудници

Тъй като още милиарди хора са свързани онлайн и технологии като AI chatbots, Internet of Things и виртуалната и разширената реалност продължават да узряват, сложността винаги се увеличава. Някои респонденти казват, че добронамерените опити за повишаване на нивото на дискурса са по-малко успешни в бързо променяща се и разширяваща се информационна среда.

Тъй като все повече хора получават достъп до интернет - и особено смартфоните, които позволяват на хората да се свързват 24/7 - ще се увеличат възможностите за лошо поведение.
Джесика Витак

Мат Хамбълн, старши редактор в Computerworld, коментира, „(до 2026 г.) социалните медии и други форми на дискурс ще включват всички видове актьори, които не са имали глас в миналото; те включват терористи, критици на всякакви продукти и форми на изкуство, аматьорски политически експерти и други “.

Anанонимен респондентпише, 'Лошите актьори ще имат средства да направят повече и по-значимите лоши актьори ще бъдат автоматизирани, тъй като ботовете се финансират по извънстационални начини, за да нанесат повече щети - защото хората печелят от това'.

Джесика Витак, асистент в Университета в Мериленд, коментира: „Наличието на социални медии, включително повишена видимост и постоянство на съдържанието, усилва обема на негативните коментари. Тъй като все повече хора получават достъп до интернет - и особено смартфоните, които позволяват на хората да се свързват 24/7 - ще се увеличават възможностите за лошо поведение “.

Брайън Александър, президент на Брайън Александър Консултинг, добави: „Броят на местата ще се увеличи с разширяването на Интернет на нещата и когато инструментите за потребителско производство станат достъпни за виртуална и смесена реалност“.

Тема 2: Нещата ще останат лоши, защото материални и нематериални икономически и политически стимули подкрепят тролинга. Участие = мощност и печалби

Много от анкетираните казват, че динамиката на мощността тласка тролинга. Бизнес моделът на платформите за социални медии се движи от приходите от реклама, генерирани от ангажирани потребители на платформи. Колкото по-тромав и запалителен материал е понякога, толкова повече приходи генерира сайтът. Колкото по-спорен е политическият конфликт, толкова по-вероятно е той да привлече вниманието. Онлайн форумите се поддават на все по-враждебни аргументи.1

Подтема: „Омразата, безпокойството и гневът стимулират участието“, което се равнява на печалби и сила, така че онлайн социалните платформи и основните медии подкрепят и дори насърчават неграмотни действия

Франк Паскуале, професор по право в университета в Мериленд и автор на „Обществото на черната кутия“, коментира: „Основните интернет платформи се движат от мотив за печалба. Много често омразата, безпокойството и гневът стимулират участието с платформата. Каквото и поведение да увеличава приходите от реклами, не само ще бъде разрешено, но и насърчавано, с изключение на някои груби случаи “.

Това е сбиване, форум за ярост и възмущение ... Колкото повече се връщаме, толкова повече пари печелят от реклами и данни за нас. Така че викащият мач продължава.
Андрю начисон

Кейт Крофорд, известен интернет изследовател, изучаващ как хората се ангажират с мрежовите технологии, отбеляза: „Недоверието и тролингът се случват на най-високите нива на политически дебат и на най-ниските. Прозорецът на Овъртън е разширен значително от президентската кампания през 2016 г. в САЩ, и то не по добър начин. Чухме кандидати за президент да говорят за забрана на мюсюлманите да влизат в страната, да искат чужди сили да хакнат бивши служители на Белия дом, ретуитирайки неонацисти. Тролингът е основна форма на политически дискурс “.

Андрю начисон, основател на We Media, каза: „Това е сбиване, форум за ярост и възмущение. Също така доминират платформите за социални медии, от една страна, и производителите на съдържание, от друга, които се споразумяват и оптимизират за количество над качеството. Facebook коригира своя алгоритъм, за да осигури един вид качество - подходящо за отделните лица. Но това наистина е хитрост за оптимизиране на количеството. Колкото повече се връщаме, толкова повече пари печелят от реклами и данни за нас. Така че викащият мач продължава. Не знам, че разпространението на тормоза и „лошите актьори“ ще се промени - това вече е лошо - но ако общият тон е лош, ако културата се наклони отрицателно, ако политическите лидери популяризират омразата, тогава има основателна причина да мислим всичко това ще доминира и в дигиталния дебат “.

Подтема: Технологичните компании имат слаб стимул да овладеят неграмотния дискурс, а традиционните новинарски организации - които навремето формираха дискусии - намаляха по значение

Няколко от респондентите-експерти казаха, че алгоритмичните решения са склонни да „възнаграждават онова, което ни държи развълнувани“, особено вредно е, че пре-интернет новинарските организации, които някога са използвали доста обективни и добре обучени (ако не и добре платени) армии от арбитри тъй като демократичните оформящи определящия климат на социалния и политическия дискурс отпаднаха, заменени от създателите на заглавия на clickbait, прочетени и споделени от социално споделени лица с кратко внимание.

В интерес на платените медии и повечето политически групи е да продължат да насърчават мисленето за „ехокамера“ и да разглеждат прагматизма и компромисите като неща, които трябва да бъдат обезкуражени.
Дейвид Дюрант

Дейвид Кларк, старши изследовател в MIT и Интернет Hall of Famer коментира, че се притеснява от загубата на характер в интернет общността. „Възможно е, с внимание към детайлите на дизайна, които водят до добро социално поведение, да се създадат приложения, които по-добре регулират негативното поведение“, пише той. „Не е ясно обаче кой актьор има мотивация да проектира и въведе такива инструменти. Пространството за приложения в Интернет днес се формира от големи търговски участници и целите им са търсене на печалба, а не създаването на по-добри общи неща. Не виждам инструментите за публичен дискурс да бъдат добри „производители на пари“, така че стигаме до разклона на пътя - или се появява нов клас актьори с различен набор от мотивации, който е готов да изгради и поддържа нов генериране на инструменти, или се страхувам, че цялостният характер на дискурса ще намалее “.

Anанонимен главен консултант по сигурносттапише, „Докато успехът - и в настоящия климат, печалбата като често срещано средство за успех - се определя от показатели, които могат лесно да бъдат подобрени чрез хвърляне на потребителите под автобуса, местата, които поддържат обществени зони онлайн, ще продължат да правят точно това '.

Стивън Уолдман, основател и главен изпълнителен директор на LifePosts, каза: „Със сигурност звучи благородно да се каже, че интернет е демократизирал общественото мнение. Но сега е ясно: даде глас на онези, които бяха безмълвни, защото бяха потиснати малцинстваиза онези, които бяха безмълвни, защото са кракпоти. ... Може да не е непременно „лоши актьори“ - т.е. расисти, женоненавистници и т.н. - да спечелят деня, но се страхувам, че ще бъде по-строгият. Подозирам, че ще има начинания, насочени към контрапрограмиране срещу това, тъй като на много хора им е неудобно. Но технологичните компании, подкрепяни от рисков бизнес, имат огромно пристрастие към алгоритмични решения, които са склонни да възнаграждават онова, което ни кара да се вълнуваме. Много малко медийни компании вече разполагат с персонал, посветен на воденето на разговори онлайн “.

Джон Андерсън, директор на журналистиката и медийните изследвания в Бруклинския колеж, пише: „Продължаващото намаляване на това, което Кас Сънщайн някога наричаше„ посредници от общ интерес “, като вестници, мрежова телевизия и др. версиите на „реалността“ могат да бъдат избирани и персонализирани от хората, така че да отговарят на съществуващите им идеологически и други пристрастия. В такава среда има малко надежда за диалог за сътрудничество и консенсус “.

Дейвид Дюрант, бизнес анализатор от правителствената дигитална служба на Обединеното кралство, заяви: „В интерес на платените медии и повечето политически групи е да продължат да насърчават мисленето за„ ехокамера “и да разглеждат прагматизма и компромисите като неща, които трябва да бъдат обезкуражени. Докато тази тенденция продължава, способността за сериозни цивилизовани разговори по много теми ще остане много трудна за постигане “.

Подтема: Терористите и други политически участници се възползват от оръжието на онлайн разкази чрез прилагане на тактики за дезинформация и убеждаване, основани на хора и ботове

Оръжието на социалните медии и „улавянето“ на онлайн системи от вярвания, известни още като „разкази“, се появиха от неизвестността през 2016 г. поради усещаното въздействие на използването на социални медии от терористични организации и политически фракции. Обвиненията за руско влияние чрез социалните медии на президентските избори в САЩ разкриха публично начините, по които стратезите от всички ивици се опитват да повлияят на хората чрез споделяне на често фалшиви или подвеждащи истории, снимки и видеоклипове. „Фалшивите новини“ излязоха на преден план в продължаващите дискусии за изместването на традиционните медии от социалните платформи. По-рано, през лятото на 2016 г., участниците в това агитиране представиха опасения относно дезинформацията в онлайн дискурса, създавайки изкривени възгледи.

Сега са заложени парите, властта и геополитическата стабилност, не става въпрос само за лична нацупеност от страна на троловете.
Анонимен респондент

Анонимно,футуролог, писател и автор в Wired, обясни, „Включени са нови нива на„ суверенитет на киберпространството “и държавни и недържавни участници с тежък режим; там са заложени парите, властта и геополитическата стабилност, не става въпрос само за лична нацупеност от страна на троловете.

Карън Блекмор, преподавател по ИТ в университета в Нюкасъл, написа: „Дезинформацията и антисоциалните мрежи влошават способността ни да дебатираме и да участваме в онлайн дискурс. Когато на мненията, основани на дезинформация, се придава същата тежест като на експертите и се принуждава да създават онлайн дейност, ние стъпваме по опасен път. Социалното поведение онлайн, без налагани от общността насоки, е подложено на много потенциално негативни сили. По-специално, социалните онлайн общности като Facebook функционират и като маркетингови инструменти, където сензационализмът е широко използван, а членовете на общността, които разглеждат този диалог като свой източник на новини, получават много изкривена представа за текущите събития и възгледите на общността по проблемите. Това се изостря с алгоритмите на социалните мрежи и търсачките, които ефективно сортират това, което хората виждат, за да подсилят мирогледа “.

Лоран Шupbach, невропсихолог от университетската болница в Цюрих, съсредоточи целия си отговор за негативния тон онлайн върху процъфтяващи актове на икономическа и политическа манипулация, като написа: „Причината, поради която вероятно ще се влоши, е, че компаниите и правителствата започват да осъзнават, че могат да повлияят на хората мнения по този начин. И тези субекти със сигурност знаят как да заобиколят всяка съществуваща защита. Руските тролски армии са добър пример за нещо, което ще става все по-често в бъдеще “.

Дейвид Вюртеле, софтуерен инженер в Tesla Motors, коментира: „За съжаление, повечето хора лесно се манипулират от страх ... Негативните дейности в интернет ще използват тези страхове, а непропорционалните отговори също ще се опитат да използват тези страхове. Скоро всички ще трябва да събуят обувките си и да изтърсят кухина, преди да се качат в интернет “.

Тема 3: Нещата ще се подобрят, защото техническите и човешките решения ще възникнат, когато онлайн светът се разцепи в сегментирани, контролирани социални зони с помощта на изкуствен интелект (AI)

Повечето респонденти казват, че е вероятно през следващото десетилетие да се наблюдава широко преминаване към по-сигурни услуги, приложения и платформи и по-стабилни политики за идентификация на потребителите. Някои казват, че хората, родени в ерата на социалните медии, ще се адаптират. Някои прогнозират, че повече онлайн системи ще изискват ясна идентификация на участниците. Това означава, че онлайн социалните форуми могат да се разделят в различни формати, някои от които са силно защитени и наблюдавани, а други могат да запазят безплатния за всички характер на днешните платформи.

Подтема: Анализът на AI настроенията и други инструменти ще открият неподходящо поведение и много тролове ще бъдат уловени във филтъра; човешкият надзор от модераторите може да хване други

Някои експерти в това проучване казват, че вече е постигнат напредък по някои фронтове към по-добри технологични и човешки решения.

Бъдещата мрежа ще даде на хората много по-добри начини да контролират информацията, която получават, което в крайна сметка ще направи проблеми като тролирането управляеми.
Дейвид Каргер

Гален Хънт, изследователски мениджър в Microsoft Research NExT, отговори: „Тъй като технологията за обработка на езика се развива, технологията ще ни помогне да идентифицираме и премахнем лоши участници, тормоз и тролове от акредитиран публичен дискурс“.

Стоу Бойд, главен изследовател в Gigaom, отбеляза: „Предполагам, че ще бъдат разработени ИИ, които бързо ще намалят въздействието на троловете. Свободата на речта ще остане възможна, въпреки че филтрирането на AI ще направи основна промяна в начина на изразяване на възгледите и речта на омразата ще бъде блокирана.

Марина Горбис, изпълнителен директор в Института за бъдещето, добави: „Очаквам да разработим повече социални ботове и алгоритмични филтри, които да премахнат част от троловете и омразната реч. Очаквам да създадем ботове, които да насърчават полезни връзки и потенциално да вмъкват специфични за контекста данни / факти / истории, които биха били от полза за по-позитивен дискурс. Разбира се, всички филтри и алгоритми ще създадат проблеми около това какво се филтрира и какви стойности са вградени в алгоритмите.

Жан Ръселот Thrivable Futures пише: „Първо, разговорите могат да имат по-добри контейнери, които филтрират за реални хора, които постоянно действат с благоприличие. Второ, софтуерът става все по-добър и по-нюансиран в анализа на настроенията, което улеснява софтуера да увеличи филтрирането ни от тролове. Трето, ние сме на върха на кризата на идентичността и нова вълна от хора искат да преодолеят празнината в диалога, за да се свържат с другите, преди последиците от племенността да се влошат (Брекзит, Тръмп и т.н.).

Дейвид Каргер, професор по компютърни науки в Масачузетския технологичен институт, каза: „Моята собствена изследователска група изследва няколко нови насоки в цифровия коментар. В не твърде далечното бъдеще цялата тази работа ще даде резултати. Тролинг, доксинг, ехо камери, щракане и други проблеми могат да бъдат решени. Ще можем да приписваме източници и да проследяваме произхода, за да увеличим точността и надеждността на информацията онлайн. Ще създадем инструменти, които да повишат информираността на хората за различните мнения и да подкрепят разговорите и ученето от хора, които поддържат тези мнения ... Бъдещата мрежа ще даде на хората много по-добри начини да контролират информацията, която получават, което в крайна сметка ще създаде проблеми като тролинг управляем (троловете ще могат да казват какво искат, но малцина ще слушат ').

Подтема: Ще има разделяне, изключване и разделяне на онлайн магазини, социални платформи и открити пространства

Технологиите ще посредничат кой и какво виждаме онлайн все повече и повече, така че да бъдем привлечени повече към общности със сходни интереси, отколкото тези, които са различни.
Линдзи Кенциг

Facebook, Twitter, Instagram, Google и други доставчици на платформи вече се „оформят“ и по този начин ограничават общественото мнение чрез прилагането на алгоритми. Тъй като хората са разочаровани от неоткритите платформи на дискурса, те спират да ги използват или затварят акаунтите си, понякога се преместват в по-малки онлайн общности от хора със сходни нужди или идеологии. Някои експерти очакват, че тези тенденции ще продължат и може да се появят още повече дялове, разделения и изключвания, когато се вземат мерки за изчистване на нещата. Например, очаква се възможностите на ботовете, базирани на AI, изпратени да подпомогнат сортирането на информация, сигурността и регулирането на тона и съдържанието на дискурса, да продължат да бъдат усъвършенствани.

Линдзи Кенциг, старши изследовател в областта на дизайна, каза: „Технологиите все повече и повече ще посредничат кой и какво виждаме онлайн, така че да бъдем привлечени повече към общности със сходни интереси, отколкото тези, които са различни. Все още ще има места, където можете да намерите онези, с които да спорите, но те ще бъдат по-концентрирани само на няколко места, отколкото са сега “.

Валери Бок, от VCB Consulting, коментира: „Местата, където хората трябва да публикуват с истинските си имена и където те взаимодействат с хора, с които имат редовно връзки, имат по-високо качество на дискурса ... В отговор на тази реалност ще видим някаква консолидация тъй като става по-лесно да оформяте търговски интерактивни пространства за желаната аудитория. Ще има безплатни за всички пространства и по-строго модерирани оградени градини, в зависимост от стратегическите цели на спонсора. Ще има и частни пространства, поддържани от лица и групи за специфични цели “.

Лиза Хайнц, докторант от университета в Охайо, коментира: „Реакцията на човечеството на негативните сили вероятно ще допринесе повече за непрекъснато стесняващия се балон на филтъра, който ще продължи да създава онлайн среда, в която липсва приобщаване чрез изключването на противоположни гледни точки. Повишеното търсене на системен ИИ, базиран на интернет, ще създаде ботове, които ще започнат да си взаимодействат - като прокси за хората, които ги обучават - с хората онлайн в реално време и с това, което ще бъде признато за разговорен език, а не бот за папагали на думи. поведение, което виждаме в Twitter сега ... Когато това се случи, ще видим, че ботовете стават част от феномена на филтърните балони като вид психически бодигард, който предотвратява проникване на хора и разговори, в които хората не искат никаква част. Неудачният аспект на тази итерация на филтърния балон означава, че докато самата свобода на словото няма да бъде засегната, хората ще проектират гласа си в пропастта, но малцина ще ги чуят “.

Боб Франкстън, интернет пионер и софтуерен иноватор, пише: „Виждам негативни дейности, които имат ефект, но ефектът вероятно ще бъде от общности, които се предпазват от по-големия свят. Все още разработваме как да формираме и мащабираме общности “.

Експертните коментари в отговор на това обследване бяха записани през лятото на 2016 г .; до началото на 2017 г., след като много събития (Брекзит, изборите в САЩ, други, споменати по-рано в този доклад) излязоха с безпокойство относно гражданския дискурс, дезинформацията и въздействието върху демокрацията, се появи ускоряване на дейността, свързана с решения. Facebook, Twitter и Google обявиха някои нови усилия за технологични подходи; започнаха да се водят много разговори за създаването на нови методи за подкрепа на журналистиката в областта на обществените дела; и бяха представени потребителски инструменти за пробиване на балончета, включително „Outside Your Bubble“ и „Escape Your Bubble“.

Подтема: Троловете и други актьори ще отвърнат на удара, като внедрят иновации около всякакви бариери, пред които са изправени

Някои участници в това агитиране заявиха, че очакват вече съществуващата динамика на непрекъсната надпревара във въоръжаването да се разшири, тъй като някои хора създават и прилагат нови мерки за пренасяне на стадото по онлайн дискурс, докато други постоянно се стремят да ги осуетят.

Кати Дейвидсън, директор-основател на Futures Initiative в Graduate Center на Градския университет в Ню Йорк, каза: „Намираме се в света на шпионския и шпионския интернет, където колкото по-бързо атакуват хакерите и троловете, толкова по-бързи са компаниите (Mozilla, благодаря ви !) плюс за печалби измислят начини да се защитят от тях и след това хакерите разработват нови стратегии срещу тези защити и така става. Не виждам този край. ... Не бих се изненадал от повече публичност в бъдеще като форма на кибер терор. Това е различно от троловете, по-геополитически организирани, за да принудят национален или многонационален отговор. Това е ужасяващо, ако нямаме стабилно, умно и спокойно ръководство “.

Сам Андерсън, координатор на учебния дизайн в Университета на Масачузетс, Амхърст, каза: „Това ще бъде надпревара във въоръжаването между компании и общности, които започват да осъзнават (както някои компании за онлайн игри като Riot), че токсичните онлайн общности ще намалят дългосрочно жизнеспособност и потенциал за растеж. Това ще воюва със стимули за краткосрочни печалби, които могат да възникнат от изблици на гневна или сектантска активност (ограничението на знаците на Twitter инхибира нюанса, което увеличава реакцията и реакцията “).

Тема 4: Надзорът и модерацията в общността идват с разходи. Някои решения могат допълнително да променят естеството на интернет, защото наблюдението ще се повиши; държавата може да регулира дебатите; и тези промени ще поляризират хората и ще ограничат достъпа до информация и свободата на словото

Една част от респондентите заявиха, че по-голямото регулиране на речта и технологичните решения за ограничаване на тормоза и тролинг ще доведе до повече наблюдение, цензура и общности. Те се притесняват, че това ще промени поведението на хората за споделяне онлайн, ще ограничи излагането на различни идеи и ще предизвика свободата.

Подтема: Надзорът ще стане още по-разпространен

Докато няколко респонденти посочиха, че вече няма шанс за анонимност онлайн, мнозина казват, че поверителността и изборът все още са опции и те трябва да бъдат защитени.

Тероризмът и тормозът от тролове ще бъдат представени като оправдания, но ефектът ще бъде опасен за демокрацията.
Ричард Столман

Дългогодишен граждански либертариански интернетРичард Столман, Член на Залата на славата в Интернет и президент на Фондацията за свободен софтуер, говори с този страх. Той прогнозира: „Наблюдението и цензурата ще станат по-систематични, дори в уж свободни страни като американския тероризъм и тормоз от тролове ще бъдат представени като оправдания, но ефектът ще бъде опасен за демокрацията“.

Ребека Макинън, директор на Ranking Digital Rights в Нова Америка, написа: „Много съм загрижен за бъдещето на свободата на словото предвид настоящите тенденции. Исканията на правителствата и компаниите да цензурират и наблюдават потребителите на интернет идват от все по-разнообразен набор от действащи лица с много легитимни опасения относно безопасността и сигурността, както и опасения относно това дали гражданският дискурс става толкова отровен, че да направи рационалното управление въз основа на действителното факти невъзможни. Все повече съм склонен да мисля, че решенията, ако някога се появят, ще бъдат човешки / социални / политически / културни, а не технически “.

Джеймс Калинна Virtually Green пише: „Надзорният капитализъм все повече грабва и добива данни за всичко, което някой казва, прави или купува онлайн. Нарастващото използване на машинното обучение за обработка на данните ще доведе до все по-фини и всеобхватни манипулации на нашите покупки, политика, културни атрибути и общо поведение. На всичкото отгоре данните се открадват рутинно от лоши актьори, които също ще използват обработка на машинно обучение, за да откраднат или унищожат неща, които оценяваме като личности: нашата самоличност, поверителност, пари, репутация, собственост, избори, вие го наричате. Виждам обратна реакция, като хората изоставят публичните форуми и сайтовете в социалните мрежи в полза на интензивно частни „черни“ форуми и мрежи “.

Подтема: Справянето с враждебното поведение и справянето с насилието и речта на омразата ще стане отговорност на държавата, вместо на платформата или доставчиците на услуги

Редица респонденти заявиха, че очакват правителствата или други органи да започнат да прилагат регулации или други реформи за справяне с тези проблеми, като най-много показва, че конкурентните инстинкти на доставчиците на платформи не работят в полза на прилагането на подходящи средства за защита без някакъв стимул.

Страхувам се, че поради практически неограничените възможности за негативно използване на социалните медии в световен мащаб, ще изпитаме нарастващо търсене в световен мащаб на ограничителна регулация.
Пола Хупър Мейхю

Майкъл Роджърс, автор и футуролог от Practical Futurist, прогнозира, че правителствата ще поемат контрола върху идентифицирането на потребителите на интернет. Той отбеляза: „Очаквам, че ще има преход към твърда самоличност - дори легална самоличност, издадена от нации - за повечето потребители на мрежата. В резултат на това ще има форуми за обществени дискусии, в които е невъзможно да бъдете анонимни. Все още ще има анонимност, точно както е в реалния свят днес. Но ще има онлайн дейности, при които анонимността не е била разрешена. Очевидно това може да има отрицателно въздействие върху свободата на словото в тоталитарните държави, но отново ще има алтернативи за анонимност “.

Пола Хупър Мейхю, професор по хуманитарни науки в университета Fairleigh Dickinson, коментира: „Страхът ми е, че поради практически неограничените възможности за негативно използване на социалните медии в световен мащаб ще изпитаме нарастващо търсене в световен мащаб на рестриктивна регулация. Този отговор може да работи срещу подкрепата за свободата на словото в САЩ.

Марк Ротенберг, изпълнителен директор на Електронния информационен център за поверителност (EPIC), написа: „Регулирането на онлайн комуникациите е естествен отговор на идентифицирането на реални проблеми, узряването на индустрията и нарастващия опит на държавните регулатори“.

Подтема: Поляризацията ще възникне поради разделянето на идеологиите

Джон Маркоф, старши писател в 'Ню Йорк Таймс', коментира: 'Има все повече доказателства, че мрежата е поляризираща сила в света. Не вярвам да разбера напълно динамиката, но предположението ми е, че тя всъщност изгражда повече стени, отколкото събаря “.

Маркус Фот, професор в Технологичния университет в Куинсланд, каза: „Публичният дискурс онлайн ще стане по-малко оформен от лоши актьори ... защото по-голямата част от взаимодействията ще се осъществяват в оградени градини. ... Социалните медийни платформи, хоствани от корпорации като Facebook и Twitter, използват алгоритми за филтрирайте, изберете и подберете съдържанието. С по-малко анонимност и по-малко разнообразие, двата най-големи проблема в ерата Web 1.0 са решени от търговска гледна точка: по-малко тролове, които могат да се скрият зад анонимността. И все пак какво губим в процеса? Алгоритмичната култура създава филтърни мехурчета, които рискуват поляризация на мнението в ехокамерите.

Емили Шоу, американски изследовател на граждански технологии за mySociety, прогнозира: „Тъй като социалните мрежи ... са най-вероятната бъдеща насока за публичен дискурс, милион (само) оградени градини е по-вероятно да бъде резултатът, отколкото увеличаването на враждебността, защото това е какво е по-изгодно от търговска гледна точка “.

Подтема: Засиленото наблюдение, регулиране и прилагане ще оформят съдържанието до такава степен, че обществеността няма да получи достъп до важна информация и евентуално да загуби свободата на словото

Експертите прогнозират, че засиленият надзор и наблюдение, оставени без контрол, биха могли да доведат доминиращи институции и действащи лица, използващи силата си за потискане на алтернативни новинарски източници, цензуриране на идеи, проследяване на лица и избирателно блокиране на достъпа до мрежата. Това от своя страна може да означава, че обществеността никога няма да разбере какво пропуска, тъй като информацията ще бъде филтрирана, премахната или скрита.

Справедливостта и свободата в ранните дни на интернет изчезнаха. Сега се управлява от големи данни, Big Brother и големи печалби.
Торлауг Агустсдотир

Торлауг Агустсдотирна Исландската пиратска партия, каза, „Мониторингът е и ще бъде огромен проблем, с засилен държавен контрол и злоупотреби. Справедливостта и свободата в ранните дни на интернет изчезнаха. Сега се управлява от големи данни, Big Brother и големи печалби. Анонимността е мит, тя съществува само за крайни потребители, на които липсват справочни ресурси “.

Джо МакНами, изпълнителен директор на European Digital Rights, каза: „В контекста на политическа среда, в която дерегулацията е достигнала статуса на идеология, лесно е за правителствата да изискват от компаниите на социалните медии да правят„ повече “, за да регулират всичко, което се случва онлайн. Виждаме това с „кодекса на поведение“ на Европейския съюз с компаниите за социални медии. Тази приватизация на регулирането на свободата на словото (в контекста на огромна, непропорционална, асиметрична мощ поради съхраняваните данни и финансовите резерви на такива компании) повдига екзистенциални въпроси за функционирането на здравите демокрации “.

Ранди Буш, Член на Internet Hall of Fame и научен сътрудник в Internet Initiative Japan, пише: „Между атаките на тролове, смразяващите ефекти от държавното наблюдение и цензурата и т.н. Интернет става все по-тесен всеки ден“.

Дан Йорк, старши стратег по съдържание в Интернет обществото, написа: „За съжаление, ние сме в период, в който негативните дейности могат да засенчат положителните дейности, докато не могат да се развият нови социални норми, които да отблъснат негатива. В момента е твърде лесно всеки да предприеме мащабна публична негативна атака срещу някого чрез социални медии и други канали - и често да прави това анонимно (или да се крие зад фалшиви имена). След това това може да бъде взето от други и разпространено. „Манталитетът на тълпата“ може лесно да бъде изхранван и в наши дни има малко проверка на факти или проверка на източници, преди хората да разпространяват информация и връзки чрез социалните медии. Мисля, че това ще накара някои правителства да искат да се намесят, за да защитят гражданите и по този начин потенциално да застрашат както свободата на словото, така и неприкосновеността на личния живот “.

Отговори от други ключови експерти относно бъдещето на онлайн социалния климат

Този раздел съдържа отговори на още няколко от многото най-добри анализатори, участвали в това проучване. След този обширен набор от коментари по темата ще има много по-обширен набор от цитати, пряко обвързани с набора от четири теми.

‘Ще видим още лошо преди добро, защото управляващата култура е слаба и ще остане такава’

Баратунда Търстън, директор на MIT Media Lab, колумнист на Fast Company и бивш дигитален директор на The Onion, отговори: „За да цитирам всички, нещата ще се влошат, преди да се подобрят. Изградихме система, при която достъпът и свързаността са лесни, цената на публикуването е почти нула, а отчетността и последиците за лоши действия са трудни за налагане или беззъби, когато го направят. Освен това помислете, че все повече хора влизат в интернет всеки ден, без да се определят норми за тяхното поведение и системите, които преобладават, сега възнаграждават привличането на внимание и удълженото време онлайн. Те възнаграждават емоционални инвестиции, независимо дали са положителни или отрицателни. Те възнаграждават конфликта. Така че ще видим по-лошо преди по-добро, тъй като управленската култура е слаба и ще остане такава, докато финансовите модели, подкрепящи тези платформи, остават до голяма степен базирани на реклами и бърз / мащабиран ориентиран към растежа на потребителите “.

„Трябва да достигнем„ пиковия трол “скоро, но има опасения за свободата на словото“

Брад Темпълтън, един от ранните светила на Usenet и дългогодишен член на борда на Electronic Frontier Foundation, понастоящем председател на изчислителната техника в Singularity University, коментира: „Сега, когато всички знаят за този проблем, очаквам активни технологични усилия за намаляване на усилията на троловете и ние трябва достигнете „връх трол“ скоро. Има опасения за свободата на словото. Надявам се, че псевдонимните системи за репутация могат да защитят поверителността, докато правят това “.

„На хората ще им е по-трудно да избягват отчетността“

Естер Дайсън, основател на EDventure Holdings и технологичен предприемач, писател и инфлуенсър, пише: „Нещата ще станат малко по-добри, защото хората ще се затруднят да избягват отчетността. Репутациите ще ви следват повече, отколкото сега. ... Ще има и интелигентни услуги като CivilComments.com (разкриване: Аз съм инвеститор), които насърчават умереността в краудсорсинг, а не цензурата на коментарите. Този подход, независимо дали от CivilComments или бъдещи конкуренти, ще помогне. (Също така изпращачът плаща, получателят заплаща имейл, бизнес, в който бих искал * да инвестирам!) Независимо от това, анонимността е важно право - и свободата на словото безнаказано (с изключение на действителната вреда, yada yada) - е по подобен начин важно. Като цяло анонимността трябва да бъде обезсърчавана, но е необходима в режими или култури или просто в ситуации, при които истината се избягва, а ораторите се наказват “.

Chatbots могат да помогнат, но трябва да се уверим, че те не кодират омраза

Ейми Уеб, футуролог и главен изпълнителен директор на Future Today Institute, каза: „В момента много компании, фокусирани върху технологиите, работят върху„ разговорни изчисления “и целта е да се създаде безпроблемен интерфейс между хората и машините. Ако имате (а) малко дете, от нея може да се очаква да говори с машини, а не да пише на машините до края на живота си. През следващото десетилетие ще имате все повече и повече разговори с операционни системи и особено с чат ботове, които са програмирани да ни слушат, учат и реагират. Първо ще срещнете ботове в социалните медии и през следващото десетилетие те ще се превърнат в широко разпространени цифрови асистенти, които ще ви помогнат в много от системите, които използвате. Понастоящем няма съдебна практика, уреждаща свободата на словото на чат бот. По време на изборния цикъл през 2016 г. имаше многобройни примери за ботове, използвани за политически цели. Например, имаше хиляди ботове, създадени да имитират латино / латино избиратели, подкрепящи Доналд Тръмп. Ако някой туитваше пренебрежителна реплика за Тръмп и латиноамериканците, ботове, които изглеждаха и звучаха като членове на латино общността, щяха да насочат този човек с туитове в подкрепа на Тръмп. В момента много от чатботовете, с които си взаимодействаме в социалните медии и различни уебсайтове, не са толкова умни. Но с подобрения в изкуствения интелект и машинното обучение това ще се промени. Без драматична промяна в начина на изграждане на бази данни за обучение и как са програмирани нашите ботове, ще осъзнаем след десетилетие, че неволно сме кодирали структурния расизъм, хомофобия, сексизъм и ксенофобия в ботовете, които помагат да задвижваме ежедневието си. Когато чатботовете започнат да се изпълняват - насочени към лица с език на омразата - как ще определим „реч“? В момента правната ни система не планира бъдеще, в което трябва да разгледаме нарушенията на свободата на словото на ботовете.

Тенденцията към децентрализация и разпределено решаване на проблеми ще подобри нещата

Doc Searls, журналист, говорител и директор на Project VRM в Центъра за интернет и общество в Беркман на Харвардския университет, пише: „Тормозът, тролингът ... тези неща процъфтяват с дистанция, което благоприятства мозъка на влечугите във всички нас, правейки лошото действие по-възможно и често срещано. ... Нека си го признаем, обективирайки, опорочавайки, страхувайки се и се борейки Другият винаги е бил проблем за нашия вид. ... Интернет, който споделяме днес, е роден едва на 30 април 1995 г., когато последният гръбнак, забраняващ търговската дейност, отстъпи. Оттогава едва започнахме да разбираме, още по-малко цивилизовано, това ново място без пространство ... Вярвам, че сме в далечния край на тази люлка към централизацията в мрежата. Тъй като физическите лица и разпределените решения на проблеми (напр. Блокчейн (цифрова книга, в която транзакциите се записват хронологично и публично)) придобиват повече мощ и употреба, ще видим много повече разпределени решения на основни социални и бизнес въпроси, като например как се отнасяме взаимно'.

Има дизайн и технологичен напредък, „които биха помогнали неимоверно“

Джудит Донатна Berkman Center на Харвардския университет, автор на„Социалната машина: проекти за живот онлайн', написа,' С настоящите практики и интерфейси, да, троловете и ботовете ще доминират онлайн публичния дискурс. Но това не е задължително: има дизайн и технологичен напредък, които биха помогнали изключително много. Нуждаем се от системи, които поддържат псевдонимност: локално постоянни идентичности. Постоянството осигурява отчетност: хората са отговорни за думите си. Местността защитава неприкосновеността на личния живот: хората могат да участват в дискусии, без да се притесняват, че тяхното правителство, работодател, застрахователна компания, търговци и др. Слушат (така че ако са, те не могат да свържат псевдонимния дискурс с действителния човек). Трябва да имаме цифрови портрети, които накратко изобразяват историята на взаимодействията и репутацията на дадена личност в общността. Трябва да можем бързо да видим кой е нов, кой е добре оценен, каква роля е играл човек в минали дискусии. На няколко места го правят сега (напр. StackExchange), но основните им диаграми са далеч от целта: интуитивни и изразителни изображения. ‘Лошите актьори’ и троловете (и спамерите, тормозещите и т.н.) нямат място в повечето дискусии - инструментите, от които се нуждаем, са филтри; трябва да разработим по-добри алгоритми за откриване на разрушителни действия, определени от местната общност. Освен това по-социално сложният въпрос е как да се улесни конструктивната дискусия между хората, които не са съгласни. Тук трябва да преосмислим структурата на онлайн дискурса. Ролята на дискусионния домакин / модератор е слабо подкрепена от настоящите технологии - и много дискусии биха протекли много по-добре в модел, различен от текущия линеен безплатен за всички. Нашите взаимодействия лице в лице имат невероятна тънкост - можем да насърчаваме или разубеждаваме с леки промени в погледа, изражението на лицето и т.н. Трябва да създадем инструменти за домакините на разговори (помислете за вашата роля, когато публикувате нещо на собствената си страница във Facebook, която искри противоречия), които им помагат да грациозно насочват разговорите “.

„Системите за възнаграждение благоприятстват почти безразборно насърчаване и търсене на внимание почти изключително“

Сет Финкелщайн, писател и новаторски компютърен програмист, вярва, че най-лошото предстои: „Един от по-малко изследваните аспекти на президентските избори в САЩ през 2016 г. е, че Доналд Тръмп демонстрира на други политици как ефективно да експлоатират такава среда. Той не беше първият, който го направи, досега. Но той показва как много високопоставени, могъщи хора могат да се адаптират и да прилагат такива стратегии в социалните медии. По принцип излизаме от фазата на „ранно усвояване“ на онлайн поляризацията и я превръщаме в основна. Фразирането на този въпрос свързва два различни въпроса. Той използва рамка, подобна на „Ще бъде ли нашето царство повече или по-малко застрашено от разбойници, кражби, чудовища и обща атмосфера на недоволство, раздори и мизерия?“ Първата част кара човек да мисли за злонамерени мотиви и по този начин да приписва проблемите на втората част по подобие на външни агитки, засягащи мирните жители. Разбира се, съществуват умишлени създатели на проблеми. И все пак много от най-лошите ексцесии идват от хора, които вярват в собствените си умове, че изобщо не са лоши актьори, но водят добра битка за всички, които са правилни и верни (наистина, в много случаи и двете страни на конфликта могат повярвайте в това и къде стоите зависи от това къде седите). Когато системите за възнаграждения благоприятстват почти изключително възмущаването и търсенето на внимание, нищо няма да бъде решено чрез набеждаване срещу предполагаеми морални изроди “.

Лошо поведение е „задържана“ реч от онези, които са безмълвни

Джеф Джарвис, професор в Градския университет в Ню Йорк, Висше училище по журналистика, написа: „Аз съм оптимист с вяра в човечеството. Ще видим дали оптимизмът ми не е заложен. Вярвам, че наблюдаваме освобождаване на клапан за налягане (или може би експлозия) на задържана реч: „масите“, които толкова дълго време не бяха чути, вече могат да говорят, разкривайки собствените си интереси, нужди и разочарования - техните собствена идентичност, различна от фалшивата медийна концепция за масата. Да, започва грозно. Но се надявам, че ще разработим норми около цивилизования дискурс. О, да, винаги ще има ... тролове. Това, от което се нуждаем, е очакване, че е разрушително за гражданския дискурс, за да ги насърчим. Да, може да изглеждаше забавно да гледате шоуто на гневни битки. За медиите може да изглежда забавно да гледат как институции като Републиканската партия имплодират. Но скоро става очевидно, че това не е забавно. Ще се върне желанието и търсенето на граждански, интелигентен, полезен дискурс; нито едно общество или пазар не могат да живеят само с дезинформация и емоции. Или това е моята надежда. Колко време ще отнеме това? Може да са години. Може да е поколение. Може да е, Бог да ни помогне, никога “.

Разумна ли беше идеята за „обоснован дискурс“?

Майк Робъртс, Член на Залата на славата в Интернет и първи президент и главен изпълнителен директор на ICANN, отбеляза: „Повечето опити за обоснован дискурс по теми, които са ми интересни, бяха нарушени от тролове през последното десетилетие. Много хора, изправени пред този тормоз, просто се оттеглят ... Има малко по-широк въпрос дали очакванията за „аргументиран“ дискурс някога са били реалистични. Историята на това, връщайки се към Платон, е една от самоизборите в сродни групи. Интернет, наред с други неща, стимулира различни антисоциални поведения от хора, които получават удовлетворение от придружаващата го публичност. Реакцията на съпругата ми е „защо сте изненадани?“ По отношение на поведението онлайн, което вече съществува офлайн “.

Нашата безплътна онлайн идентичност ни принуждава да „увеличим емоционалното съдържание“

Бари Чудаков,основател и ръководител на Sertain Research и StreamFuzion Corp., написа,

„През следващото десетилетие редица фактори в публичния дискурс онлайн ще продължат да се сближават и енергично да си влияят взаимно:

1) Новостта е най-добрият арбитър: Стойността на нашия дискурс (всичко, което виждаме или чуваме) ще бъде претеглена от това колко незабавно или незабавно е видяна и съобщена информацията. Търсенето в реално време, геолокацията, актуализациите точно навреме, Twitter и др. Правят сега, настоящия момент, изцяло подвеждаща реалност, която има тенденция да заобикаля всичко, което не е хипер-актуално.

2) Безлични скали на себелюбието: Със снимки и видео можем да се представим в размер, но поради липсата на „facework“ в онлайн симулацията, нашите лица отсъстват или замръзват в рамкиран портрет, намерен другаде, и затова няма лице -към лице, без динамична интерактивност, без отзивчиво четене на нашия коментар, освен в последващ коментар. И все пак ще се подобрим да използваме публичния дискурс като самореклама.

„3) Анонимността ни променя: Защитата на самоличността води до различен набор от„ маниери “или маниери, произтичащи от нашето усещане (не е точно, разбира се), че онлайн сме анонимни.

4) Контекст AWOL: Нашето настояще „> Неуспехът на филтъра“, за заемане на фразата на Клей Ширки, е почти пълна липса на контекст, проверка на реалността или перспектива. През следващото десетилетие ще започнем да изграждаме по-добри контекстни рамки за информация.

5) Формула на силата на звука: Обемът на съдържанието от всички краища - всеки с клавиатура, устройство - затруднява управлението на отговорите или дори филтрирането за уместност, но има тенденция да благоприятства емоционалното натискане на бутоните, за да бъде забелязано.

„6) Ersatz us: Онлайн идентичностите ще бъдат по-измислени, по-измислени, но и по-податливи от типичните„ facework “или други човешки взаимодействия. За известно време можем да се преструваме, че сме ерзац версия на себе си.

7) Всяка реплика в (туит) буря: Отново, като се има предвид липсата на „facework“ или незабавна реакция на лицето, която определя човешкия отговор в продължение на хилядолетия, ние ще увеличим емоционалното съдържание на съобщенията, за да осигурим някакъв вид реакция, често възнаграждавайки нахален и скандален заради бавния и замислен “.

Ще се подобрим в артикулирането и прилагането на полезни норми

Дейвид Вайнбергер, старши изследовател от Центъра за интернет и общество „Беркман Клайн“ от Харвардския университет, каза: „Разговорите винаги се оформят от норми и това, което позволява средата. Например, настаняването на 100 гости на вечеря на една дълга маса ще формира разговорите по различен начин, отколкото поставянето им на десет маси от десет или 25 маси от четири. Акустиката на стаята ще формира разговорите. Присвояването на места или не ще формира разговорите. Дори сервирането на вино вместо бира може да оформи разговорите. Същите съображения са още по-важни в мрежата, тъй като нейната глобална същност означава, че имаме по-малко споделени норми, а дигиталната му природа означава, че имаме много повече място за игра с начини за обединяване на хората. Ставаме много по-добри в тласкането на разговори в полезни обмени. Вярвам, че ще продължим да се справяме по-добре “.

Анонимността е на път да излезе и това ще обезсърчи тролинга

Патрик Тъкър, автор на „Голото бъдеще'и технологичен редактор в Defense One, каза: „Днешната негативна онлайн потребителска среда се подкрепя и допълва от две тенденции, които е малко вероятно да продължат през следващото десетилетие: анонимност при публикуване и валидиране от самоидентифицирани подгрупи. Все по-често търговците трябва да идентифицират по-добре и API за удостоверяване (удостоверяване чрез Facebook например) предизвикват онлайн анонимност. Предаването на анонимност също ще измести анализа на разходите и ползите от писането или публикуването на нещо, за да се хареса само на самоидентифицирана груба група, а не на широк спектър от хора “.

Поляризацията поражда непримиримост и това се отразява в непримиримостта на онлайн дискурса

Алис Маруик, сътрудник от Data & Society, коментира: „В момента онлайн дискурсът става все по-поляризиран и по този начин по-екстремен, отразявайки цялостното разделяне на хора с различни гледни точки в по-голямото население на САЩ. Едновременно с това няколко от основните играчи в социалните медии не желаят или забавят да предприемат действия за ограничаване на организирания тормоз. И накрая, пазарът на онлайн внимание насърчава т. Нар. „Кликбайт“ статии и сензационни новини, които често съдържат дезинформация или дезинформация, или просто им липсва строга проверка на фактите. Без структурни промени както в начина, по който сайтовете в социалните медии реагират на конфликти, така и в икономическите стимули за разпространение на неточна или сензационна информация, екстремизмът и следователно конфликтът ще продължи. По-важното е, че географската и психологическа сегментация на населението на САЩ в „червени“ и „сини“ квартали, общности и щати е малко вероятно да се промени. Именно последното поражда цялостна политическа поляризация, което се отразява в неприветливостта на онлайн дискурса “.

„Ще възникнат нови варианти на цифрови злоупотреби“

Никога Cascio, уважаван колега от Института за бъдещето, отговори: „Не очаквам значителна промяна в тона на онлайн дискурса през следващото десетилетие. Троленето, тормозът и т.н. ще останат нещо обичайно, но няма да са преобладаващото мнозинство от дискурса. Ще видим многократни усилия за ограничаване на лошото онлайн поведение чрез инструменти и норми; някои от тези усилия ще бъдат (или изглеждат) успешни, дори когато възникнат нови варианти на цифрови злоупотреби “.

Ще се подобрява и влошава

Анил Даш, технолог, написа, „Очаквам негативното влияние върху социалните медии да се влоши и положителните фактори да се подобрят. Мрежите ще се опитат да отговорят, за да предотвратят най-тежките злоупотреби, но ще се появят нови сайтове и приложения, които повтарят същите грешки.

Сайтовете ще забранят „недокоснатия анонимен“; търсете възхода на „регистрирани псевдоними“

Дейвид Брин, автор на „Прозрачното общество“ и лидер на Университета на Калифорния, Център за човешко въображение на Артур К. Кларк в Сан Диего, Сан Диего, каза: „Някои компании ще забогатеят, като предлагат регистрирани псевдоними, така че хората да могат да се скитат в мрежата“ анонимно “и въпреки това е гарантиран и отговорен за лошо поведение. Когато това се случи, почти всички легитимни сайтове ще забранят недокоснатите анонимни '.

Около 20 г. пр. Н. Е. Хорас разбираше тези проблеми

Фред Бейкър, колега от Cisco, коментира: „Комуникацията във всеки носител (Интернет е само един пример) отразява хората, които комуникират. Ако тези хора използват нецензурен език, са женоненавистни, преценяват хората по ирелевантни фактори като раса, пол, вероизповедание или други подобни фактори в други части от живота си, те ще го направят във всякаква комуникационна среда, включително интернет. Ако това се увеличава в разпространението в една среда, очаквам, че е или ще бъде във всяка и всяка среда с течение на времето. Проблемът не е в интернет; това е процесът на срив в социалната тъкан. ... Ако се тревожим за младостта на нашата епоха, която отива при кучетата, толкова ли сме различни от нашите предци? В „Книга III на Одеса“, около 20 г. пр. Н. Е., Хорас пише: „Възрастта на нашите майки“ е по-лоша от нашите внуци. Ние, техните синове, сме по-безполезни от тях; така че на свой ред ние ще дадем на света потомство, но още по-корумпирано. “Мисля, че човешката раса не е обречена, не повече днес, отколкото по времето на Хорас. Но ние имаме възможността да изберем да ги доведем до по-благородни занимания и по-благородна дискусия за тях “.

„Всеки възел в нашия мрежов свят е потенциално уязвим“

Майк Либхолд, старши изследовател и отличен сътрудник в Института за бъдещето, написа: „След разкритията на Сноудън и в контекста на ускоряване на киберпрестъпленията и кибер войните е ясно, че всеки слой от технологичния стек и всеки възел в нашия мрежов свят е потенциално уязвим. Междувременно и големината, и честотата на експлоатите се ускоряват. В резултат на това потребителите ще продължат да променят поведението си и използването на интернет, а дизайнерите на интернет услуги, системи и технологии ще трябва да харчат нарастващо време и разходи за лична и колективна сигурност “.

Политиците и компаниите биха могли да се ангажират „с все по-голяма степен на цензура“

Джилиан Йорк, директор по международната свобода на изразяване към Фондация Electronic Frontier, отбеляза: „Борбата, пред която сме изправени, е социален проблем, който трябва да разгледаме на всички нива, и че структурата на социалните медийни платформи може да се изостри. Компаниите за социални медии ще трябва да се справят с това, освен полицията в общността и алгоритмичното оформяне на нашите информационни емисии. Има много начини да направите това, като същевременно избягвате цензурата; например по-индивидуализираните блокиращи инструменти и мерките за гласуване / отрицателно гласуване могат да добавят нюанс към дискусиите. Притеснявам се, че ако не се справим с основните причини за настоящия ни обществен дискурс, политиците и компаниите ще се ангажират с все по-голяма степен на цензура “.

Сложните математически уравнения имат социални ефекти

Anанонимен професор в градския университет в Ню Йорк, написа, „Виждам пространството на публичния дискурс като управлявано по нови, по-сложни начини, а също и по-брутални. По този начин имаме управление на социални медии в Мексико с любезното съдействие на Peñabots, хакване от групи, които са квазиправителствени или обслужват националистически интереси (човек мисли за Източна Европа). Александър Клуге веднъж каза: „Публичната сфера е мястото, където борбите се решават по друг начин, освен чрез война.“ Виждаме разширено участие в публичната сфера и това ще продължи. Това не означава непременно разширяване на демокрацията, само по себе си. Всъщност много от тези конфликти са трансгранични. Като цяло дискусиите ще изпреварят официалната политика в смисъл, че ще има все повече възможности за участие. По някакъв начин това предполага нови видове регионализми, интригуващи в момент, когато Европейският съюз поема удар и търговските пактове са подложени на преразглеждане. Този тип участие означава и отваряне на нови арени, например Facebook е обвинен в ляво пристрастие в своя алгоритъм. Това означава, че ние признаваме ролята на това, което по същество са сложни математически уравнения, като социални ефекти “.

Обратната страна на запазването на неприкосновеността на личния живот: Широки унизителни и грозни коментари

Бернардо А. Хуберман, старши сътрудник и директор на Лабораторията за механизми и дизайн в Hewlett Packard Enterprise, каза: „Поверителността, за която днес сме склонни да мислим, ще бъде допълнително нарушена, макар и само поради лекотата, с която човек може да събира данни и да идентифицира хората. Свободното слово, ако се тълкува като свобода да се казва каквото мисли човек, ще продължи да съществува и дори да процъфтява, но обратната страна ще бъде редица унизителни и грозни коментари, които ще стават все по-разпространени с течение на времето.

Голяма част от „публичния онлайн дискурс се състои от това, което ние и другите не виждаме“

Стивън Даунс, изследовател от Националния изследователски съвет на Канада, отбеляза: „Важно е да разберем, че нашето възприятие за публичния дискурс се формира от два основни източника: първо, собственият ни опит в публичния онлайн дискурс и второ, медийни съобщения (понякога и онлайн) относно естеството на публичния дискурс. И от двата източника имаме доказателства, че има голямо влияние от лоши актьори, тормоз, тролове и общ тон на схващане, недоверие и отвращение, както се предлага във въпроса. Но голяма част от публичния онлайн дискурс се състои от това, което ние и другите не виждаме “.

Какво ще кажете за движение, което да научи хората да се държат?

Марсел Булинга, trendwatcher и водещ лектор @futurecheck, написа: „Онлайн ние изразяваме омраза и отвращение, което никога не бихме изразили офлайн, лице в лице. Изглежда, че онлайн липсва социален контрол. Ние не изправяме нашите съседи / деца / приятели с асоциално поведение. Проблемът не е (само) в анонимния тормоз: много хулигани имат лица и са безсрамни и имат общности, които насърчават тормоза. А държавните субсидии ги стимулират - най-страшният аспект от всички. Ще видим възхода на социалните роботи, технологични инструменти, които могат да ни помогнат да действаме като учтиви, почтени социални същества (като приложението REthink). Но повече от това трябва да се върнем към преподаването и изпитването на морал в бизнеса и образованието: обратно към социалното поведение “.