1. Отношение към алгоритмично вземане на решения

Днес много решения, които могат да бъдат взети от хора - от интерпретиране на медицински изображения до препоръчване на книги или филми - вече могат да се вземат от компютърни алгоритми с усъвършенствани аналитични възможности и достъп до огромни запаси от данни. Нарастващото разпространение на тези алгоритми доведе до широко разпространени опасения относно тяхното въздействие върху тези, които са засегнати от решенията, които вземат. За поддръжниците тези системи обещават да повишат точността и да намалят човешкото пристрастие при важни решения. Други обаче се притесняват, че много от тези системи представляват „оръжия за унищожаване на математиката“, които просто подсилват съществуващите пристрастия и различия под прикритието на алгоритмичен неутралитет.


Повечето американци казват, че компютърните програми винаги ще отразяват пристрастията на хората; младите възрастни са по-разделени

Това проучване установява, че обществото е по-склонно да споделя последното, по-скептично мнение. Приблизително шест от всеки десет американци (58%) смятат, че компютърните програми винаги ще отразяват пристрастията на хората, които са ги проектирали, докато 40% смятат, че е възможно компютърните програми да вземат решения, които са свободни от човешки пристрастия. По-забележително е, че по-младите американци подкрепят по-скоро идеята, че могат да се разработват компютърни програми, които не са пристрастни. Половината от 18 до 29-годишните и 43% от тези на възраст между 30 и 49 години се придържат към това мнение, но този дял спада до 34% сред тези на възраст 50 и повече години.

Тази обща загриженост относно вземането на важни решения от компютърни програми се отразява и в обществените нагласи относно използването на алгоритми и големи данни в няколко реални контекста.

За да се постигне по-задълбочено разбиране на обществените възгледи за алгоритмите, проучването попита респондентите за техните мнения за четири примера, в които компютрите използват различни лични и обществени данни, за да вземат решения с реално въздействие върху хората. Те включват примери за решения, вземани както от публични, така и от частни субекти. Те също така включват комбинация от лични ситуации, имащи пряко отношение към голям дял американци (като например да бъдат оценени за работа) и такива, които може да са по-отдалечени от преживяното от много хора (като например да бъдат оценени за условно освобождаване). И четирите са базирани на реални примери за технологии, които в момента се използват в различни области.

Конкретните сценарии в проучването включват следното:


  • Автоматизираноценка на личните финансикоято събира и анализира данни от много различни източници за поведението и личните характеристики на хората (не само за финансовото им поведение), за да помогне на бизнеса да реши дали да им предложи заеми, специални оферти или други услуги.
  • ДА СЕоценка на наказателния рисккойто събира данни за хора, които са предсрочно освобождавани, сравнява тези данни с тези на други, които са осъдени за престъпления, и присвоява оценка, която помага да се реши дали трябва да бъдат освободени от затвора.
  • Програма, коятоанализира видеоклипове от интервюта за работа, сравнява характеристиките, поведението и отговорите на интервюираните с други успешни служители и им дава оценка, която може да помогне на бизнеса да реши дали кандидатите за работа биха били добър наем или не.
  • ДА СЕкомпютъризиран скрининг на автобиографияпрограма, която оценява съдържанието на изпратените автобиографии и изпраща само тези, които отговарят на определен праг, до мениджър по наемане за по-нататъшен преглед за достигане на следващия етап от процеса на наемане.

За всеки сценарий респондентите бяха помолени да посочат дали смятат, че програмата би била честна спрямо оценяваните хора; дали би било ефективно при изпълнение на работата, за която е предназначен; и дали според тях е приемливо за компаниите или други субекти да използват тези инструменти за посочените цели.



Значителни дялове американци гледат на всеки от тези сценарии като на несправедлив спрямо оценяваните

Широката обществена загриженост относно справедливостта на тези примери за алгоритмично вземане на решения

Американците са до голяма степен скептични относно справедливостта на тези програми: нито една не се разглежда като справедлива от явното мнозинство от обществеността. Особено малки дялове смятат, че понятията „личен финансов резултат“ и „анализ на видео интервю за работа“ биха били справедливи за потребителите или кандидатите за работа (съответно 32% и 33%). Концепцията за автоматизиран рейтинг на криминален риск се разглежда като справедлива от най-големия дял американци. Дори и така, само около половината общество намира тази концепция за справедлива - и само един на всеки десет смята, че този тип програма би биламногосправедлив към хората в изслушвания за условно освобождаване.


Демографските различия са сравнително скромни по въпроса дали тези системи са справедливи, въпреки че има някои забележими вариации в отношението, свързани с расата и етническата принадлежност. Чернокожите и испанците са по-склонни от белите да намерят концепцията за оценка на потребителските финанси справедлива за потребителите. Само 25% от белите смятат, че този тип програми биха били честни за потребителите, но този дял нараства до 45% сред чернокожите и 47% сред испанците. За разлика от това, чернокожите изразяват много по-голяма загриженост относно алгоритъма за оценяване на условно освобождаване, отколкото белите или испанците. Приблизително шест от десет чернокожи (61%) смятат, че този тип програми биха го направилинебъдете справедливи към хората, получили условно освобождаване, значително по-висок от дела на белите (49%) или испанците (38%), които казват същото.

Обществеността е разделена най-вече по въпроса дали тези програми биха били ефективни или не

54% от американците смятат, че автоматизираните финансови резултати биха били ефективни, но само 32% смятат, че биха били справедливи

Обществеността е относително разделена относно това дали тези програми биха били ефективни при изпълнение на работата, за която са предназначени. Около 54% ​​смятат, че програмата за оценка на личните финанси би била ефективна при идентифицирането на добри клиенти, докато около половината смятат, че алгоритмите за условно освобождаване (49%) и възобновяване на скрининга (47%) биха били ефективни. Междувременно 39% смятат, че концепцията за видео интервю за работа би била добър начин за идентифициране на успешни наеми.


В по-голямата си част възгледите на хората за справедливостта и ефективността на тези програми вървят ръка за ръка. Подобен дял от обществеността гледа на тези понятия като на справедливи спрямо тези, които се оценяват, тъй като казват, че те биха били ефективни при вземането на добри решения. Но концепцията за оценка на личните финанси е забележително изключение от тази обща тенденция. Около 54% ​​от американците смятат, че този тип програми биха свършили добра работа, като помогнат на бизнеса да намери нови клиенти, но само 32% смятат, че е честно потребителите да бъдат оценявани по този начин. Тази разлика от 22 процентни пункта е най-голямата сред четирите различни сценария.

Повечето американци смятат, че използването на тези програми е неприемливо; притесненията относно поверителността на данните, справедливостта и цялостната ефективност подчертават списъка им с притеснения

Мнозинството от обществеността смята, че е таканеприемливо за компании или други субекти да използват концепциите, описани в това проучване. Най-видно, 68% от американците смятат, че използването на концепцията за оценка на личните финанси е неприемливо, а 67% смятат, че е неприемливо компаниите да извършват компютърно подпомаган видео анализ на интервюта при наемане на кандидати за работа.

Проучването помоли респондентите да опишат със свои думи защо смятат, че тези програми са приемливи или не и някои теми се появяват в тези отговори. Тези, които смятат, че тези програми са приемливи, често се фокусират върху факта, че биха били ефективни в изпълнението на работата, която претендират. Освен това някои твърдят в случая на примери от частния сектор, че понятията просто представляват прерогативата на компанията или свободния пазар на работа.

Междувременно тези, които намират използването на тези програми за неприемливо, често се притесняват, че няма да свършат толкова добра работа, колкото се рекламира. Те също така изразяват загриженост относно справедливостта на тези програми и в някои случаи се притесняват от последиците за поверителността на данните, които се събират и споделят. Обществената реакция на всяка от тези концепции е разгледана по-подробно по-долу.


Автоматизиран резултат за лични финанси

Сред 31% от американците, които смятат, че би било приемливо компаниите да използват този тип програми, най-големият дял от анкетираните (31%) смятат, че би било ефективно да помогне на компаниите да намерят добри клиенти. По-малките акции казват, че клиентите нямат право да се оплакват от тази практика, тъй като доброволно публикуват данните си публично със своите онлайн дейности (12%) или че компаниите могат да правят каквото искат и / или че това е просто свободният пазар в работа (6%).

Притесненията относно автоматизираните оценки на личните финанси се фокусират върху неприкосновеността на личния живот, дискриминацията, непредставянето на хората точноЕто някои примери за тези отговори:

  • „Вярвам, че компаниите трябва да могат да използват актуализирани, съвременни усилия, за да преценят нечия фискална отговорност по различни начини, освен ако плащат сметките си навреме“.Мъж, 28
  • „Финансите и финансовото състояние са толкова сложни сега. Човек може да има лош кредитен рейтинг поради груба корекция, но не харчи несериозно, плаща сметки и т.н. Този човек може да се възползва от цялостния поглед върху своите тенденции. Алтернативно, човек, който се придържа към тенденциите в обратната посока, но има ограничен кредит / добър кредит, може да не е чудесен избор за компания, тъй като техните тенденции могат да показват, че те ще дефолтират по-късно “.Жена, 32
  • „(Това е) проста икономика - ако хората искат да предоставят информацията си там. е, гадно е да са те '.Мъж, 29
  • „Звучи точно като оценка на кредитна карта, която, макар и не много справедлива, се счита за приемлива“.Жена, 25
  • „Тъй като е ефикасно и ефективно при предоставянето на информация за бизнеса, която те могат да използват, за да свържат своите услуги и продукти (заеми) с клиентите. Това е хубаво нещо. Да се ​​рационализира процесът и да се направи по-евтино и по-целенасочено означава по-малко загуба на ресурси за реклама на такива неща.Мъж, 33

68% от американците, които смятат, че е неприемливо компаниите да използват този тип програми, посочват три основни опасения. Около една четвърт (26%) твърдят, че събирането на тези данни нарушава поверителността на хората. Един на всеки пет казва, че онлайн данните на някой не ги представят точно като личност, докато 9% посочват, че онлайн навиците и поведението на хората нямат нищо общо с цялостната им кредитоспособност. И 15% смятат, че е потенциално несправедливо или дискриминационно да се разчита на този тип оценка.

Ето някои примери за тези отговори:

  • „Непрозрачните алгоритми могат да въведат пристрастия, дори без да имат намерение. Това е по-скоро проблем с алгоритмите за наказателно наказание, но все пак може да доведе до пренасочване и пристрастия към малцинствените общности. Ако бяха подобрени, за да елиминират това, щях да бъда по-склонен да приема тяхната употреба “.Мъж, 46
  • „Посяга на нечия способност да се ангажира свободно в онлайн дейности. Това кара човек да иска да скрие какво купува - независимо дали е подарък за приятел или книга за четене. Защо някой трябва да има такъв достъп, за да знае моите навици за купуване и да се възползва от него по някакъв начин? Този вид мониторинг просто изглежда много архаичен. Мога да разбера защо това би се направило, от тяхна гледна точка помага да покажа какво аз като клиент бих се интересувал от покупката. Но чувствам, че трябва да има някаква линия и това я пресича “.Жена, 27
  • „Не мисля, че е честно компаниите да използват моята информация без мое разрешение, дори ако това би било специално предложение, което би ме интересувало. Това е като шпионаж, не е приемливо. Това също би изключило хората да получават специални оферти, които не могат или не използват социални медии, включително тези от по-ниски социално-икономически нива “.Жена, 63
  • „Алгоритмите са предубедени програми, придържащи се към възгледите и убежденията на всеки, който поръчва и контролира алгоритъма ... Някой е взел решение относно уместността на определени данни и след като е вграден в програма за преглед, става неопровержимо евангелие, независимо дали е добър показател или не '.Мъж, 80
Притесненията относно оценките за криминален риск се фокусират върху липсата на индивидуален фокус, способността на хората да се променят

Автоматизиран резултат за криминален риск

42% от американците, които смятат, че използването на този тип програми е приемливо, споменават редица причини да се чувстват по този начин, като нито един фактор не се откроява от останалите. Около 16% от тези респонденти смятат, че този тип програма е приемлива, защото би била ефективна или защото е полезно съдебната система да има повече информация при вземането на тези решения. Подобен дял (13%) смята, че този тип програма би бил приемлив, ако е само една част от процеса на вземане на решения, докато един на всеки десет смята, че би бил по-справедлив и по-малко пристрастен от сегашната система.

В някои случаи респондентите използват много различни аргументи в подкрепа на един и същ резултат. Например 9% от тези респонденти смятат, че този тип програма е приемлива, тъй като предлага на затворниците втори шанс да бъдат продуктивен член на обществото. Но 6% го подкрепят, защото смятат, че това ще помогне за защитата на обществото, като държи в затвора потенциално опасни лица, които иначе биха могли да излязат на свобода.

Няколко примера:

  • „Служителите на затворите и правоприлагащите органи правят това от стотици години. Това е здрав разум. Сега, когато е идентифициран и наречен програма или процес (който) не променя нищо '.Мъж, 71
  • „Защото другият вариант е да се разчита изцяло на човешките решения, които сами по себе си са опорочени и пристрастни. Трябва да се използват както човешкия интелект, така и данните “.Мъж, 56
  • „В момента мисля, че много от тези решения се вземат субективно. Ако можем да определим количествено риска чрез обективни критерии, които са показали валидност в реалния свят, трябва да го използваме. Много чернокожи мъже са в затвора, вероятно е при по-обективни критерии те да имат право на условно освобождаване. По същия начин други расови / етнически групи може да получат незаслужена почивка поради субективни пристрастия. Трябва да бъдем максимално справедливи към всички хора и това може да помогне “.Мъж, 81
  • „Въпреки че подобна програма би имала своите недостатъци, сегашната алтернатива на хората да решават е далеч по-погрешна“.Мъж, 42
  • „Докато имат ДРУГА полезна информация за вземане на решения, тогава би било приемливо. Те трябва да използват всичко, което имат на разположение, което е правдиво и информативно, за да вземат толкова важно решение '!Жена, 63

56% от американците, които смятат, че този тип програми не са приемливи, са склонни да се фокусират върху ефикасността на преценката на хората по този начин. Около 26% от тези отговори твърдят, че всеки индивид или обстоятелство са различни и че компютърната програма трудно би уловила тези нюанси. Подобен дял (25%) твърди, че този тип система изключва възможността за личностно израстване или притеснения, че програмата може да няма най-добрата информация за някого, когато прави своята оценка. И около всеки десети се тревожи за липсата на човешко участие в процеса (12%) или изразява загриженост, че тази система може да доведе до несправедливи пристрастия или профилиране (9%).

Няколко примера:

  • „Хората трябва да се разглеждат и оценяват като личност, а не въз основа на някаква компилация от много други. Всички ние сме много различни един от друг, дори ако имаме едни и същи интереси или идеи или убеждения - ние сме индивид в цялото “.Жена, 71
  • „Две причини: Хората могат да се променят и анализът на данните може да бъде грешен“.Жена, 63
  • „Защото изглежда, че вие ​​определяте бъдещето на човека въз основа на избора на друг човек“.Жена, 46 г.
  • „Информацията за популациите не може да се прехвърля на лица. Вземете например ИТМ (индекс на телесна маса). Тази мярка е предназначена за прогнозиране на сърдечни заболявания при големи популации, но е приложена неправилно за лица. Така че 6-футов висок културист, който тежи 240 паунда, е класифициран като болезнено затлъстял, тъй като мярката е неточна. Следователно информацията за рецидив на населението не може да се използва за преценка на отделни нарушители “.Жена, 54
  • „Събирането на данни често е недостатъчно и е трудно да се коригира. Алгоритмите не отразяват душата. Като учен по данни също знам колко често те просто са погрешни “.Мъж, 36

Видео анализ на кандидатите за работа

Две теми се открояват в отговорите на 32% от американците, които смятат, че е приемливо да се използва този инструмент при наемане на кандидати за работа. Около 17% от тези респонденти смятат, че компаниите трябва да имат право да наемат, но преценят, че са подходящи, докато 16% смятат, че е приемливо, тъй като това е само една точка от данните сред мнозина в процеса на интервю. Други 9% смятат, че този тип анализ би бил по-обективен от традиционното интервю от човек до човек.

Няколко примера:

  • „Всичко е справедливо в общоприетите бизнес практики“.Мъж, 76
  • - Те анализират вашите черти. Нямам проблем с това '.Жена, на 38 години
  • „Отново в този забързан свят, с нашето мобилно общество и пазара на труда, една полунаучна чанта с инструменти е от съществено значение за поддържане на конкурентоспособност“.Мъж, 71
  • „Докато кандидатът за работа се съгласи с този формат, мисля, че е приемливо. Наемането на някого води до огромна финансова инвестиция и това може да е полезен инструмент “.Жена, 61
  • „Мисля, че е приемливо да използвате продукта по време на интервюто. Да се ​​използва обаче като решаващ фактор е нелепо. Интервютата са трудни и изнервят кандидатите, затова смятам, че използването на това е приемливо, но лошо, ако се използва за окончателен подбор “.Мъж, 23
Загрижеността относно автоматизирания анализ на интервюта за работа се фокусира върху справедливостта, ефективността, липсата на човешко участие

Респондентите, които смятат, че този тип процес е неприемлив, са склонни да се съсредоточат върху това дали ще работи по предназначение. Всеки пети твърди, че този тип анализ просто няма да работи или е погрешен по някакъв общ начин. Малко по-малък дял (16%) прави случаят хората да интервюират други хора, докато 14% смятат, че този процес просто не е справедлив спрямо хората, които се оценяват. И 13% смятат, че не всеки интервюира добре и че тази система за оценяване може да пренебрегне иначе талантливите кандидати.

Няколко примера:

  • „Не мисля, че характеристиките, получени по този начин, биха били надеждни. Страхотни служители могат да дойдат във всички пакети “.Жена, 68
  • „Лицата могат да имат атрибути и силни страни, които не са очевидни при този вид анализ и те ще бъдат проверени въз основа на алгоритъма“.Жена, 57
  • „Човек би могъл да е страхотен на живо, но да замръзне по време на такова интервю (пред камера). Наемете човек, а не робот, ако искате човек да върши работа. Интервютата, както е описано, трябва да се използват само за лица, които живеят далеч и не могат да влязат и след това само за стесняване на кандидатите за работа, тогава последното интервю трябва да изисква от тях интервю от човек на човек “.Жена, 61
  • „Някои хора не интервюират добре и компютърът не може да оцени личността на човека и как те са свързани с други хора“.Мъж, 75
Притесненията относно автоматизирания скрининг за възобновяване се фокусират върху справедливостта, липсата на човешко участие

Автоматизиран скрининг за възобновяване

41% от американците, които смятат, че е приемливо компаниите да използват този тип програми, посочват три основни причини да се чувстват така. Около един на всеки пет (19%) намира това за приемливо, тъй като компанията, използваща процеса, би спестила много време и пари. Идентичен дял смята, че би било по-точно, отколкото скринингът се възобновява на ръка, а 16% смятат, че компаниите могат да наемат, както искат.

Няколко примера:

  • „Опитвали ли сте някога да сортирате стотици приложения? Програмата предоставя не частично средство за оценка на кандидатите. Може да не е перфектно, но е ефективно '.Жена, на 65 години
  • „Въпреки че не бих направил това за моята компания, просто мисля, че е приемливо, тъй като частните компании трябва да могат да използват каквито искат методи, стига да не извършват незаконна дискриминация. Случва ми се да мисля, че някои потенциално добри кандидати ще бъдат прехвърлени по този метод, но не бих казал, че на организацията не трябва да се позволява да го прави по този начин “.Мъж, 50
  • „Ако премахне автобиографии, които не отговарят на критериите, това позволява процесът на наемане да бъде по-ефективен“.Жена, 43

Тези, които намират процеса за неприемлив, също се фокусират върху три основни теми. Около една трета (36%) се притесняват, че този тип процес отнема човешкия елемент от наемането. Приблизително една четвърт (23%) смятат, че тази система не е честна или не винаги би могла да намери най-добрия човек за тази работа. И 16% се притесняват, че автобиографиите просто не са добър начин за избор на кандидати за работа и че хората могат да играят системата, като въведат ключови думи, които се харесват на алгоритъма.

Ето някои примери за тези отговори:

  • „Отново отнемате човешкия компонент. Какво ще стане, ако много квалифициран човек не може да си позволи професионален писател на автобиография да направи автобиографията си? Компютърът ще го изгони “.Жена, 72 г.
  • „Компаниите ще получават само служители, които използват определени думи, фрази или каквито и да са параметрите на търсенето. Ще им липсват добри кандидати и ще хомогенизират работната си сила “.Жена, 48
  • „Вероятността програма да започне автобиография и човека, свързан с нея, за незначителни странности в терминологията нараства. Най-добрият начин за оценка на хората е с хората “.Мъж, 54
  • „Това е точно като полагане на стандартизирани училищни тестове, като SAT, ACT и др. Има учебни програми, които помагат на учениците да се научат как да се явяват на изпити и как да„ практикуват “с различни примери. Следователно резултатите всъщност не сравняват потенциала на всички участници в теста, а по-скоро дават положително пристрастие на тези, които харчат време и пари, за да учат как да се явят на тест “.Мъж, 64