Како технологија отима људске умове - од мађионичара и Гоогле-овог етичара дизајна

Стив Бенон логор светаца

Ја сам стручњак за то како технологија отима наше психолошке рањивости. Због тога сам последње три године провео као етичар дизајна у Гоогле-у бринући се о томе како да дизајнирам ствари на начин који брани умове милијарде људи од отмице.

Када користимо технологију, често се фокусирамо оптимистично о свим стварима које ради за нас. Али желим да вам покажем где то може учинити супротно.

Где технологија користи слабости нашег ума ?

Научио сам да размишљам на овај начин док сам био мађионичар. Мађионичари почињу са тражењем мртве тачке, ивице, рањивости и ограничења перцепције људи, тако да могу утицати на оно што људи раде, а да они то ни не схватају. Једном када знате како да притискате дугмад људима, можете да их свирате као клавир.

То сам ја изводио спретност ручне магије на рођендану моје мајке(Слика аутора)

А ово је управо оно што дизајнери производа раде на ваш ум. Они играју ваше психолошке рањивости (свесно и несвесно) против вас у трци да вам привуку пажњу.

Желим да вам покажем како то раде.

Отмица # 1: Ако контролишете мени, ви контролишете изборе

Ограничавајући избор(Слика аутора)

Западна култура изграђена је око идеала личног избора и слободе. Милиони нас жестоко бране своје право на слободне изборе, док игноришемо како тим изборима манипулишу узводно менији које ми уопште нисмо изабрали.

Управо то раде мађионичари. Они људима дају илузију слободног избора док обликују јеловник тако да побеђују, без обзира на то шта одабрали. Не могу довољно да нагласим колико је дубок овај увид.

Када се људима да избор, они ретко питају:

• шта није на менију?
• зашто ми се даје ове опције а не други?
• да ли знам циљеве добављача менија?
• је овај мени оснаживање за моју првобитну потребу или су избори заправо дистракција? (нпр. огроман број паста за зубе)

На пример, замислите да сте у уторак увече вани са пријатељима и желите да наставите разговор. Отворите Иелп да бисте пронашли препоруке у близини и видели листу трака. Група се претвара у гомилу лица која буље у своје телефоне упоређујући тактове. Они детаљно прегледавају фотографије сваког, упоређујући коктел пића. Да ли је овај мени још увек релевантан за првобитну жељу групе?

Није да барови нису добар избор, већ је Иелп првобитно питање групе (где можемо да наставимо да разговарамо?) Заменио другим питањем (шта је то бар са добрим фотографијама коктела?), Све обликујући мени.

Штавише, група пада на илузију да Иелп-ов мени представља а комплетан сет избора за куда ићи. Док гледају у своје телефоне, не виде парк преко пута са бендом који свира живу музику. Недостаје им скочна галерија на другој страни улице у којој се служе палачинке и кафа. Ниједна од њих се не појављује на Иелп-овом менију.

Иелп суптилно преобликује потребу групе где можемо да наставимо да разговарамо? у погледу фотографија послужених коктела.(Снимак екрана: Тристан Харрис)

Технологија нам нуди више избора у скоро свим доменима нашег живота (информације, догађаји, места за одлазак, пријатељи, састанци, послови) - што више претпостављамо да је наш телефон увек најоснажнији и најкориснији мени за бирање . Ја седим?

Мени који највише оснажује разликује се од менија који има највише избора . Али када се слепо предамо менијима које смо добили, лако је изгубити осећај разлике:

• Ко је слободан за дружење вечерас? постаје мени од најновији људи који су нам послали поруке (кога бисмо могли пингати).
• Шта се дешава у свету? постаје мени вести са вестима.
• Ко је слободан да иде на спој? постаје мени лица за превлачење по Тиндеру (уместо локалних догађаја са пријатељима или урбаних авантура у близини).
• Морам да одговорим на овај имејл. постаје мени од тастери за унос одговора (уместо да оснажи начине комуникације са особом).

Иелп суптилно преобликује потребу групе где можемо да наставимо да разговарамо? у погледу фотографија послужених коктела.(Слика аутора)

Када се ујутро пробудимо и окренемо телефон да бисмо видели листу обавештења - то уоквирује искуство буђења ујутро око менија свих ствари које сам пропустио од јуче. (за више примера видети Јое Еделман'с Емповеринг Десигн талк )

Списак обавештења када се ујутро пробудимо - колико је оснажујући овај мени избора када се пробудимо? Да ли одражава оно до чега нам је стало? (из Јое Еделман-овог Емповеринг Десигн Талк-а)(Фото: Тристан Харрис)

Обликујући меније из којих бирамо, технологија отима начин на који доживљавамо своје изборе и замењује их новим. Али што ближе обраћамо пажњу на могућности које смо добили, приметићемо све више када се оне заправо не поклапају са нашим стварним потребама.

Отмица # 2: Ставите аутомат у милијарду џепова

Ако сте апликација, како задржати људе на вези? Претворите се у аутомат.

Просечна особа провери свој телефон 150 пута дневно. Зашто то радимо? Да ли правимо 150 свестан избора ?

Колико често дневно проверавате своју е-пошту?(Снимак екрана: Тристан Харрис)

Један од главних разлога зашто је психолошки састојак број 1 у аутоматима: повремене променљиве награде .

Ако желите да повећате зависност, све што технолошки дизајнери треба да ураде је да повежу радњу корисника (попут повлачења полуге) са променљива награда . Повучете полугу и одмах добијете примамљиву награду (меч, награду!) Или ништа. Зависност се максимизира када је стопа награде најразличитија.

Да ли овај ефекат заиста делује на људе? Да. Слот машине у Сједињеним Државама зарађују више од бејзбола, филмова и тематских паркова комбиновани . У односу на друге врсте коцкања, људи се „проблематично укључују“ у аутомате за игре на срећу 3–4 пута брже према професору НИУ Натасха Дов Сцхулл, ауторки Зависност од дизајна.

Али ево несрећне истине - неколико милијарди људи има аутомате у џепу:

• Кад извадимо телефон из џепа, то смо и учинили играње аутомата да видимо каква смо обавештења добили.
• Када повучемо освежавање е-поште, то смо и учинили играње аутомата да видимо који смо нови е-маил добили.
• Када прелазимо прстом доле да бисмо се померали по фееду Инстаграм, то смо и учинили играње аутомата да бисте видели која следећа фотографија долази.
• Када прелазимо лицима улево / удесно у апликацијама за састанке као што је Тиндер, ми смо играње аутомата да видимо имамо ли шибицу.
• Када додирнемо # црвених обавештења, то смо играње аутомата на оно што је испод.

Црвена обавештења(Снимак екрана: Тристан Харрис)

Апликације и веб локације посипају наизменичне променљиве награде по свим својим производима, јер је то добро за посао.

Али у другим случајевима, аутомати се појављују случајно. На пример, иза не постоји злонамерна корпорација сва е-пошта који су свесно изабрали да то направе аутомат. Нико не профитира када милиони провере е-пошту и тамо нема ничега. Као ни Аппле и Гоогле-ови дизајнери желим телефони да раде попут аутомата. Настало је случајно.

Али сада су компаније попут Аппле-а и Гоогле-а одговорне да смање ове ефекте за претварање повремених променљивих награда у мање зависне, више предвидљиве са бољим дизајном. На пример, могли би да оснаже људе да поставе предвидива времена током дана или недеље у којима желе да проверавају апликације на аутоматима и сходно томе прилагоде испоруку нових порука како би се ускладили са тим временом.

Отмица бр. 3: Страх од пропуштања нечег важног (ФОМСИ)

Други начин на који апликације и веб локације отимају умове људи је навођењем шансе од 1% да бисте могли да пропустите нешто важно.

Ако вас убедим да сам канал за важне информације, поруке, пријатељства или потенцијалне сексуалне могућности - биће вам тешко да ме искључите, откажете претплату или уклоните налог - јер (аха, победим) можда пропустите нешто важно:

• То нас одржава претплаћенима на билтене чак и након што нису донели недавне погодности (шта ако пропустим будуће обавештење?)
• Ово нас одржава у пријатељству са људима са којима нисмо разговарали годинама (шта ако им пропустим нешто важно?)
• Ово нас задржава да превлачимо лица по апликацијама за упознавање, чак и када се већ неко време нисмо ни са ким срели (шта ако ми то недостаје једна врућа утакмица ко ме воли?)
• То нас задржава да користимо друштвене медије (шта ако пропустим ту важну вест или заостанем за оним о чему причају моји пријатељи?)

Али ако зумирамо тај страх, открићемо да је неограничен : увек ћемо пропустити нешто важно у било ком тренутку када престанемо да користимо нешто.

• На Фацебооку постоје магични тренуци које ћемо пропустити ако га не користимо 6. сат (нпр. Стари пријатељ који је у посети граду одмах ).
• Постоје магични тренуци које ћемо пропустити на Тиндеру (нпр. Наш романтични партнер из снова) не превлачећи 700. меч.
• Постоје хитни телефонски позиви које ћемо пропустити ако нисмо повезани 24/7 .

Али живећи тренутак у тренутак са страхом да не бисмо нешто пропустили нисмо онако како смо изграђени да живимо.

И невероватно је како се брзо, кад се ослободимо тог страха, пробудимо из илузије. Када се искључимо из мреже дуже од једног дана, откажите претплату на та обавештења или идите на Камп приземљен - забринутости за које смо мислили да их заправо не постоје.

Не пропуштамо оно што не видимо.

Помисао, шта ако пропустим нешто важно? се генерише пре искључивања, одјаве или искључивања - не после. Замислите да су технолошке компаније то препознале и помогле нам да проактивно подесимо наше односе са пријатељима и предузећима у смислу онога што дефинишемо као добро проведено време за наш живот, уместо у смислу онога што бисмо могли пропустити.

Отмица # 4: Социјално одобрење

Једноставно једна од најуверљивијих ствари које човек може да прими.(Снимак екрана: Тристан Харрис)

Сви смо осетљиви на социјално одобравање . Потреба да припадамо, будемо одобрени или цењени од стране наших вршњака једна је од највиших људских мотивација. Али сада је наше социјално одобрење у рукама технолошких компанија.

Кад ме мој пријатељ Марц означи, замислим да прави свестан избор да ме означи. Али не видим како је компанија попут Фејсбука уопште то организовала.

Фацебоок, Инстаграм или СнапЦхат могу манипулисати колико често се људи означавају на фотографијама тако што аутоматски предлажу сва лица која људи треба да означе (нпр. Приказивањем оквира са потврдом једним кликом, Означи Тристана на овој фотографији?).

Па кад ме Марц означи, он је заправо одговарајући на Фацебоок-ов предлог, не доносећи самосталан избор. Али кроз овакве изборе дизајна, Фацебоок контролише множилац за колико често милиони људи доживљавају своје социјално одобравање на линији .

Фацебоок користи аутоматске сугестије попут ове да натера људе да означе више људи, стварајући више социјалних екстерналија и прекида.(Снимак екрана: Тристан Харрис)

портрети Обаме и Мишел

Исто се дешава када променимо главну фотографију на профилу - Фацебоок зна да је то тренутак у којем јесмо рањива на социјално одобравање : шта моји пријатељи мисле о мојој новој слици? Фацебоок може ово више рангирати у фееду вести, тако да остаје дуже и више пријатеља ће га волети или коментарисати. Сваки пут кад им се свиди или их коментаришу, одмах ћемо бити повучени.

Сви урођено реагују на социјално одобравање, али неке демографске категорије (тинејџери) су на њега рањивије од других. Због тога је толико важно препознати колико су моћни дизајнери када користе ову рањивост.

Отмица бр. 5: Друштвена узајамност (тит-фор-тат)

• Учиниш ми услугу - дугујем ти следећи пут.
• Кажете, хвала - морам рећи да сте добродошли.
• Пошаљете ми е-пошту - непристојно је ако се не јавите.
• Пратите ме - непристојно је не следити вас назад. (посебно за тинејџере)

Ми смо рањив да треба да узврати туђе гесте . Али као и код социјалног одобрења, технолошке компаније сада манипулишу колико често то доживљавамо.

У неким случајевима је то случајно. Апликације за е-пошту, размену порука и размене порука фабрике су друштвеног реципроцитета . Али у другим случајевима компаније намерно користе ову рањивост.

ЛинкедИн је најочигледнији преступник. ЛинкедИн жели да што више људи ствара социјалне обавезе једни за друге, јер сваки пут када им узврате (прихватањем везе, одговором на поруку или одобравањем некога за неку вештину) морају се вратити на линкедин.цом где могу натерајте људе да проводе више времена.

Као и Фацебоок, ЛинкедИн користи асиметрију у перцепцији. Када од некога примите позив да се повежете, замишљате да та особа прави свестан избор да вас позову, у стварности су вероватно несвесно одговорили на ЛинкедИн-ову листу предложених контаката. Другим речима, ЛинкедИн претвара ваш несвесни импулси (да додате особу) у нове социјалне обавезе које милиони људи осећају обавезним да отплаћују. Све док профитирају од времена које људи проводе радећи то.

ЛинкедИн користи асиметрију у перцепцији.(Фото: Тристан Харрис)

Замислите да милионе људи овако прекидају током целог дана, трчећи около као пилићи одсечених глава, узвраћајући се међусобно - све што су дизајнирале компаније које од тога профитирају.

Добродошли на друштвене мреже.

Након прихватања препоруке, ЛинкедИн користи вашу пристрасност да би вам узвратила нудећи * четири * додатних људи које ћете заузврат подржати.(Снимак екрана: Тристан Харрис)

Замислите да технолошке компаније имају одговорност да минимизирају друштвену узајамност. Или ако је постојала независна организација која је заступала интересе јавности - индустријски конзорцијум или ФДА за технологију - која је надгледала када технолошке компаније злоупотребљавају ове пристрасности?

Отмица бр. 6: Купе без дна, бесконачно пуњење и аутоматска репродукција

ИоуТубе аутоматски репродукује следећи видео након одбројавања(Снимак екрана: Тристан Харрис)

Још један начин да отму људе је да их натерају да конзумирају ствари, чак и када више нису гладни.

Како? Лако. Искусите ограничено и коначно искуство и претворите га у ток без дна то наставља .

Професор Цорнелла, Бриан Вансинк, то је демонстрирао у својој студији која показује можете преварити људе да наставе да једу супу дајући им чинију без дна који се аутоматски допуњују док једу. Са чинијама без дна људи поједу 73% више калорија од оних са нормалним зделама и потцењују колико су калорија појели за 140 калорија.

Техничке компаније користе исти принцип. Фидови вести су наменски дизајнирани за аутоматско допуњавање са разлозима који вам омогућавају да непрестано листате и намерно елиминишу сваки разлог паузирања, преиспитивања или напуштања.

То је такође разлог зашто веб локације за видео и друштвене медије попут Нетфлика, ИоуТубе-а или Фацебоок-а аутоматско покретање следећи видео након одбројавања, уместо да чекате да свесно одлучите (у случају да нећете). Огроман део промета на овим веб локацијама потиче аутоматском репродукцијом следеће ствари.

Нетфлик аутоматска репродукција у акцији(Фото: Тристан Харрис)

Техничке компаније често тврде да само олакшавамо корисницима да виде видео они желе да гледају када заправо служе својим пословним интересима. И не можете им замерити, јер је повећање утрошеног времена валута за коју се такмиче.

Уместо тога, замислите да ли су вас технолошке компаније оснажиле за то свесно везао своје искуство да се усклади са оним што би било добро проведено време за тебе. Не само ограничавање количина времена које потрошите, али особине онога што би било добро проведено време.

Отмица бр. 7: Тренутни прекид насупрот поштовању

Компаније то знају да људи који прекидају одмах су убедљивији у наговарању људи да одговоре него поруке које се испоручују асинхроно (попут е-поште или било ког одложеног сандучета).

С обзиром на избор, Фацебоок Мессенгер (или ВхатсАпп, ВеЦхат или СнапЦхат по том питању) би радије дизајнирају свој систем за размену порука одмах прекидајте примаоце (и покажите оквир за ћаскање) уместо да помажу корисницима да поштују међусобну пажњу.

Другим речима, прекид је добар за посао .

Такође им је у интересу да појачају осећај хитности и социјалне узајамности. На пример, Фацебоок аутоматски каже пошиљаоцу када сте видели његову поруку, уместо да вам дозволи да избегнете откривање да ли сте је прочитали (сада када знате да сам видео поруку, осећам се још дужнијим да одговорим.)

Насупрот томе, Аппле са поштовањем омогућава корисницима да укључују или искључују рачуне за читање.

Проблем је што максимизирање прекида у име посла ствара заједничку трагедију, уништавајући глобалну пажњу и узрокујући милијарде непотребних прекида сваког дана. Ово је огроман проблем који морамо да решимо заједничким стандардима дизајна (потенцијално као део Време је добро потрошено ).

Отмица бр. 8: Повезивање ваших разлога са њиховим разлозима

Други начин на који вас апликације отимају је узимање ваши разлози за посету апликацији (за извршавање задатка) и чине их неодвојивим од пословних разлога апликације (максимизирање потрошње када смо тамо).

На пример, у физичком свету прича о намирницама, најпопуларнији разлози за посету бр. 1 и бр. 2 су пуњење апотеке и куповина млека. Али прехрамбене продавнице желе да повећају колико људи купују, па апотеку и млеко стављају на задњи крај продавнице.

Другим речима, чине оно што купци желе (млеко, апотека) неодвојивим од онога што посао жели. Да су продавнице заиста организована за подршку људима , они би ставите најпопуларније предмете у предњи део .

Техничке компаније дизајнирају своје веб странице на исти начин. На пример, када желите да потражите Фацебоок догађај који се дешава вечерас (ваш разлог), апликација Фацебоок вам не дозвољава да му приступите без претходног слетања на феед вести (њихови разлози), а то је намерно. Фацебоок жели да претвори сваки разлог који имате због коришћења Фацебоока у њихов разлог који је да максимизира време које проводите трошећи ствари .

У идеалном свету апликације би вам увек дале директан начин да бисте добили оно што желите одвојено од онога што желе.

Замислите дигиталну рачуницу права која описује дизајнерске стандарде који су приморали производе које користе милијарде људи да подрже оснаживање начина на који могу да се крећу ка својим циљевима.

Отмица бр. 9: Неприкладни избори

Речено нам је да је довољно да предузећа омогуће избор.

• Ако вам се не свиђа, увек можете да користите други производ.
• Ако вам се не свиђа, увек можете да се одјавите.
• Ако сте зависни од наше апликације, увек је можете деинсталирати са телефона.

Предузећа природно желе да олакшају изборе које желе да вам олакшају, а изборе које не желе да отежате. Мађионичари раде исту ствар. Гледаоцу олакшавате да изабере ствар коју желите да одабере, а теже ону коју не желите.

На пример, НИТимес.цом вам омогућава бесплатан избор за отказивање дигиталне претплате. Али уместо да то раде само када притиснете Откажи претплату, они то чине послаће вам е-пошту са информацијама о отказивању налога позивањем телефонског броја која је отворена само у одређено време.

НИТимес тврди да даје слободан избор за отказивање налога(Снимак екрана: Тристан Харрис)

цбд уље за продају на мрежи

Уместо да свет посматрамо у смислу доступност избора , требало би да свет посматрамо у смислу трење потребно за доношење избора . Замислите свет у коме су избори обележени колико је тешко да их се испуне (попут коефицијената трења), а постојао је независни ентитет - индустријски конзорцијум или непрофитна организација - који је означио ове потешкоће и поставио стандарде за лакоћу навигације.

Отмица бр. 10: Предвиђање грешака, стратегије „Нога у врата“

Фацебоок обећава једноставан избор да видите фотографију. Да ли бисмо и даље кликнули да је дало праву цену?(Фото: Тристан Харрис)

И на крају, апликације могу да искористе неспособност људи да предвиде последице клика.

Људи не интуитивно предвиђају истински трошак клика када им се то представи. Продавци користе технике ногу у врата тако што за почетак траже мали безазлени захтев (само једним кликом да виде који је твеет ретвитован) и ескалирају одатле (зашто не останете мало?). Практично све веб локације за ангажовање користе овај трик.

Замислите да су веб прегледачи и паметни телефони, прелази кроз које људи доносе ове одлуке, заиста пазили на људе и помагали им да предвиде последице кликова (на основу стварних података о какве је користи и трошкове заправо имао ?).

Због тога на врх својих постова додајем Процењено време читања. Када стварну цену избора ставите пред људе, понашате се достојанствено и са поштовањем према својим корисницима или публици. У а Време је добро потрошено Интернета, избори би се могли уобличити у смислу пројектованих трошкова и користи, тако да су људи били овлашћени да доносе обавештене одлуке према заданим поставкама, а не обављањем додатног посла.

ТрипАдвисор користи ногу у техници врата тражећи преглед једним кликом (Колико звездица?), Док иза три клика скрива анкету од три странице.(Фото: Тристан Харрис)

Резиме и како то можемо поправити

Јесте ли узнемирени што технологија отима вашу агенцију? И ја сам. Набројао сам неколико техника, али има их буквално на хиљаде. Замислите читаве полице с књигама, семинаре, радионице и тренинге који подучавају надобудне технике попут ових. Замислите стотине инжењера чији је посао сваки дан да измишљају нове начине како да вас задрже.

Крајња слобода је слободан ум и потребна нам је технологија која је у нашем тиму како би нам помогла да слободно живимо, осећамо, размишљамо и делујемо.

Наши паметни телефони, екрани обавештења и веб прегледачи требају нам бити егзоскелет за наш ум и међуљудске односе који на прво место стављају наше вредности, а не наше импулсе. Време људи је драгоцено . И требали бисмо га заштитити истом строгошћу као приватност и друга дигитална права.

Тристан Харрис био је филозоф производа у Гоогле-у до 2016. године, где је проучавао како технологија утиче на пажњу, добробит и понашање милијарде људи. За више ресурса о добро утрошеном времену погледајте хттп://тимевеллспент.ио .

АЖУРИРАЊЕ: У првој верзији овог поста недостајало је признања онима који су надахњивали моје размишљање, укључујући и многе године Јое Еделман , Не буди Раскин , Рапх Д'Амицо, Јонатхан Харрис и Дамон Хоровитз .

Моје размишљање о јеловницима и одлучивању дубоко је укорењено у Јое Еделман-у рад на Људским вредностима и стварању избора .