Неетичните онлайн експерименти рискуват да навредят в реалния свят
Хатим А Рахман е асистент по мениджмънт и организации в Kellogg School of Management, Northwestern University, Илинойс
Вероятно правите опити с вас сега. Организациите провеждат безброй тестове онлайн, опитвайки се да научат как могат да държат очите ни приковани към екрана, да ни убедят да купим нов продукт или да предизвикат реакция на последните новини. Но те често го правят, без да ни уведомяват – и с непредвидени, а понякога и отрицателни последици.
В едно скорошно проучване моите колеги и аз проучихме как е възможно дигитална трудова платформа да определи следващия ви работа, заплащане и видимост пред бъдещите работодатели. Такива експерименти често се провеждат без съгласието или осведомеността на работниците — и са широко разпространени.
През 2022 г. различно проучване, докладвано в New York Times, установи, че професионалната мрежова платформа LinkedIn експериментира с милиони потребители без тяхно знание . Авторите твърдят, че тези тестове са имали пряк ефект върху кариерата на потребителите, като много от тях са имали по-малко възможности да се свържат с бъдещи работодатели.
Uber също експериментира с плащания на билети, за които много шофьори казаха на медиите, че водят до намалени печалби. Тестовете на платформите за социални медии са допринесли за поляризирането на онлайн съдържанието и развитието на „ехо камери“, според изследване в списание Nature. И Google непрекъснато експериментира с резултатите от търсенето, което немски академици откриха, че поставя спам уебсайтове в горната част на своите резултати.
Проблемът не е експериментирането само по себе си, което може да бъде полезно, за да помогне на компаниите да вземат решения, базирани на данни . Това е, че повечето нямат никакви вътрешни или външни механизми, за да гарантират, че експериментите са ясно полезни за техните потребители, както и за самите тях.
Държавите също така нямат силни регулаторни рамки, които да управляват как организациите използват онлайн експерименти и странични ефекти, които могат да имат. Без парапети последствията от нерегламентираните експерименти могат да бъдат катастрофални за всички.
В нашето проучване, когато работниците се оказаха неволни морски свинчета, те изразиха параноя, разочарование и презрение от това, че прехраната им е подложена на експерименти без знание и съгласие. Последствията бяха каскадни и засегнаха доходите и благосъстоянието им.
Някои отказаха да предложат идеи за това как цифровата платформа може да се подобри. Други спряха да вярват, че всяка промяна е реална. Вместо това те се опитаха да ограничат своята онлайн ангажираност.
Въздействието на нерегулираните онлайн експерименти вероятно ще стане още по-разпространено и изразено.
Amazon беше обвинена от американските регулатори, че използва експерименти за повишаване на цените на продуктите, задушаване на конкуренцията и увеличаване на потребителските такси. Измамниците използват онлайн и дигитални експерименти, за да нападат възрастни и уязвими хора.
И сега инструментите за генеративен изкуствен интелект намаляват разходите за производство на съдържание за цифрово експериментиране. Някои организации дори внедряват технология, която може да им позволи да експериментират с мозъчните ни вълни.
Повишената интеграция на експериментирането представлява това, което наричаме „експериментална ръка“ – което може да има силно въздействие върху работници, потребители, клиенти и обществото по начини, които са зле разбрани, но могат да имат тежки последици. Дори и с най-добри намерения, без множество проверки и баланси, последствията от настоящата култура могат да бъдат пагубни за хората и обществото.
Но не е нужно да прегръщаме бъдещето на Черното огледало, в което всеки наш ход , взаимодействието и мисълта са обект на експлоатиращи експерименти. Организациите и политиците биха били разумни, ако извлекат поуките от грешките на учените отпреди половин век.
Скандалният експеримент в Станфордския затвор от 1971 г., в който университетският професор по психология Филип Зимбардо произволно разпределя участниците на затворник или затвор ролята на пазач, бързо се спусна до надзиратели, подлагащи затворници на груб психологически тормоз.
Въпреки че наблюдава тези последствия, той не спря експеримента. Докторантката Кристина Маслач, която дойде да помогне за провеждането на интервюта, изрази сериозни възражения и допринесе за затварянето му.
Липсата на надзор върху дизайна и изпълнението на експеримента ускори приемането на институционални съвети за преглед ( IRBs) в университетите. Тяхната цел е да гарантират, че всеки експеримент, включващ хора, се провежда етично и в съответствие със закона, включително получаване на информирано съгласие от субектите и им позволяват да се откажат.
За да функционират IRB извън академичните среди, ръководителите на организации трябва да гарантират, че включват независими експерти с разнообразен опит, за да наложат най-високите етични стандарти.
Но това не е достатъчно. Прочутият експеримент на Facebook от 2012 г., в който измерва как потребителите реагират на промените в положителните или отрицателните публикации в техния канал, беше одобрен от IRB на университета Корнел. Платформата за социални медии твърди, че съгласието на нейните потребители с условията на услугата представлява информирано съгласие.
FT Online MBA класация 2024 — 10 от най-добрите
Разберете кои училища са в нашата класация за онлайн MBA степени и прочетете останалата част от нашето репортажи на ft.com/reports/online-mba.
Нуждаем се също така от отчетност, организирана от тълпа, за да гарантираме, че организациите прилагат етично стабилни експерименти. Самите потребители често са най-близките, най-информираните хора, които дават информация. Една разнообразна група трябва да има глас в дизайна на всеки експеримент.
Ако организациите не желаят да отговорят на изискванията на потребителите, тогава тези, които са изложени на експерименти, могат да създадат свои собствени платформи, за да се информират взаимно. Работници в платформата за аутсорсинг Amazon Mechanical Turk, известна като MTurk, например, създадоха Turkopticon, за да създадат система за оценка на работодателите, когато MTurk отказа да им предостави оценки.
Не трябва да е нужен нов експеримент на Zimbardo, за да се стимулира организации и правителства да въведат парапети за етични експерименти. Нито трябва просто да чакат регулаторите да действат. Maslach не се забави, а и ние не трябва.
Тим Вайс, асистент по иновации и предприемачество в Imperial College London, и Арвинд Карунакаран, асистент по управленски науки и инженерство в Станфордския университет, допринесоха за това статия
