AI идва за гнева ни

Аз съм човешко създание, по дяволите! Животът ми има стойност! . . . Адски съм сърдит и няма да понасям това повече!

Хауърд Бийл, оракулски разгорещеният антигерой от кино лентата „ Мрежа “ от 1976 година, несъмнено беше доста сърдит. Все по-често, съгласно поредни изследвания на Галъп за прочувственото положение на света, всички сме такива. 

Но евентуално не за дълго, в случай че изкуственият разсъдък има думата в това. AI към този момент идваше за нашите работни места; в този момент идва за нашата гняв. Въпросът е дали нещо има право да поеме тази гняв без позволение и дали някой е подготвен да се бори за правото ни на яд.

Този месец настрана изброеното мобилно звено на софтуерната империя SoftBank на Масайоши Сон разкри че създава система, задвижвана от изкуствен интелект, с цел да защищити надутите служащи в прът центрове от остри рецензии и необятната палитра от вербални обиди, които попадат в определението за тормоз на клиенти. 

Задължително за четене

Тази публикация беше показана в бюлетина за наложителни за четене, където предлагаме по една забележителна история всеки работен ден. Регистрирайте се за бюлетина тук

Не е ясно дали SoftBank съзнателно се е стремял да провокира антиутопия, когато е кръстил този план, само че „ EmotionCancelling Voice Conversion Engine “ има мрачност, която би направила Джордж Оруел зелен. 

Технологията, създадена в проучвателен институт за изкуствен интелект, основан от SoftBank и Университета на Токио, към момента е във фаза на научноизследователска и развойна активност и ранната демо версия допуска, че следва още доста работа. Но правилото към този момент ненапълно работи и е толкоз чудноват, колкото бихте очаквали.

На доктрина изкуственият разсъдък, изменящ гласа, трансформира изявлението на сърдит обаждащ се човек в действително време, тъй че индивидът от другата страна да чува единствено омекотена, безобидна версия. Оригиналният речник на обаждащия се остава недокоснат (засега; дайте време на дистопията да позволи този проблем). Но тонално яростта е изтрита. Комерсиализацията и инсталирането в центровете за позвънявания, счита SoftBank, може да се чака някъде преди март 2026 година

ИИ на SoftBank за смяна на гласа

Описание на видеоклипа

Сравнение сред истинска и AI гласово изменена аудиограма

Както при толкоз доста от тези планове, хората са си сътрудничили за пари със своите бъдещи господари на AI. Машината EmotionCancelling беше подготвена благодарение на артисти, които изпълняваха огромен набор от гневни изречения и набор от способи за изтичане на гнева, като крясъци и викове. Те дават на изкуствения разсъдък стъпките и огъванията за разкриване и заменяне.

Оставете настрани другите пъклен пейзажи, които основава тази технология. Най-малко богатите на въображение измежду нас могат да видят способи, по които смяната на гласа в действително време може да отвори доста рискови пътища. Проблемът към този момент е собствеността: светкавичната еволюция на AI към този момент подлага на съществено тестване въпросите за собствеността върху гласа от страна на звезди и други; Експериментът на SoftBank тества собствеността върху страстта.

Проектът на SoftBank явно беше с положителни планове. Идеята явно е хрумнала на един от инженерите на AI на компанията, който е гледал филм за възходящата корист измежду японските клиенти по отношение на служащите в бранша на услугите – феномен, който някои приписват на капризността на застаряващото население и ерозията на стандартите за обслужване заради изострен дефицит на работна ръка. 

Двигателят EmotionCancelling е показан като решение на непоносимото психическо задължение върху операторите на прът център и напрежението от крещянето. Освен че лишава изявленията от плашещия им звук, AI ще се намеси, с цел да приключи диалозите, които счита за прекомерно дълги или подли.

Но отбраната на служащите не би трябвало да бъде единственото основание тук. Гневът може да е доста неприятно и ужасно нещо за приемане, само че може да е легитимен и би трябвало да има нерешителност при изкуственото му изписване от сюжета за взаимоотношения с клиентите - изключително в случай че се ускорява единствено когато клиентът осъзнае, че изразеният им яд е подтиснат от машина.

Бизнесите на всички места могат — и го вършат — да предизвестяват клиентите да не злоупотребяват с личния състав. Но премахването на гнева от нечий глас без негово позволение (или посредством закопаване на това позволение с малък шрифт) прекрачва значима линия, изключително когато AI е претрупан с отстраняването.

Пресечената линия е мястото, където човек страстта или избран звук на гласа се комерсифицира за лекуване и обезвреждане. Гневът е лесна цел за изрязване, само че за какво не накарате AI да отбрани операторите на прът център от отчаяние, горест, необходимост, обезсърчение или даже признателност? Какво ще стане, в случай че се реши, че някои районни акценти са по-заплашителни от други и са шлифовани от логаритъм, без техните притежатели да знаят?

В обширна поредност от есета, оповестени предходната седмица, Леополд Ашенбренер, някогашен откривател в OpenAI, който е работил по отношение на отбраната на обществото от технологията, предизвести, че до момента в който всички приказват за AI, „ малко на брой имат и най-слабия проблясък на това, което е на път да ги удари “. 

Най-добрата ни тактика, на фона на всичко това, може би е да останем пъклен луди.