Гибелният сценарий с ИИ, за който никога не сте чували, може да е най-трудният за спиране

Изглежда съвсем всеки ден огромна софтуерна компания пуска нов цифров помощник, ръководен от ИИ. Muse от Meta, Gemini от Гугъл, точки от OpenAI. Докато тази публикация бъде оповестена, нова от [вмъкнете софтуерна компания тук] евентуално ще има известие за пресата, рекламиращо способността й да ръководи работата и живота ви – да смъква нещата от плочата ви, да автоматизира вашите процеси, да форсира досадните ви задания. Звучи потребно и, с цел да понижим летвата, безвредно. 

Но някои откриватели споделят, че това е началото на подъл път за човечеството, при който ботовете лишават от ден на ден от чинията ни, до момента в който всичко, което остане, е празен съд, а ние, хората, консуматори не станем нищо повече от безмислени „ одобряващи “. 

Това не е единствено опасност за работните места. Те предизвестяват, че позволяването на нашите умения и познания да се влошат и предаването на нашето сериозно мислене на AI съставлява екзистенциална заплаха за човечеството.

Един от термините за този път е „ последователно отнемане от власт “ – сюжет, при който AI измества човешкия труд в стопанската система, заменя човешкото взимане на решения във всички основни публични проблеми, подкопава човешката креативност и намалява човешкото знание по пътя. 

И макар че думата " последователно " е в името, това не значи, че казусът е нещо, за което да се тревожим в далечно бъдеще, съгласно специалисти. 

„ Поставям последователното отнемане от власт преди всичко в листата си “, сподели Джей Чуи, създател и основен изпълнителен шеф на Robocurve, компания, която наблюдава и мери качествата на роботиката, ръководена от AI. 

Chooi има вяра, че последователното отнемане от власт е също толкоз обезпокоително, колкото и опасността от основани пандемии и по-разрушителни хакерски атаки, които могат да бъдат ускорени от кадърен AI.

„ Това е проблем от мащаба на цивилизацията “, сподели Chooi за последователното отнемане от власт. „ Много хора се усещат доста безсилни, тъй като това изисква доста старания и метод на цялото общество, с цел да се реши това. “

Какво е „ последователно отнемане от власт “ и по какъв начин би могъл AI да го аргументи?

Терминът „ последователно отнемане от власт “ произлиза от документ, оповестен при започване на 2025 година

В основата на сюжета за последователно отнемане от власт е технологията за ИИ, която продължава да прогрес във опциите, както се случи бързо след стартирането на ChatGPT през 2022 г. 

Моделите на AI може скоро да бъдат по-добри в съвсем всички когнитивни задания от хората – решение на гранични математически задания, правене на тежки науки, шифроване, писане и основаване на изкуство и музика, с цел да назовем няколко от областите, в които AI от ден на ден се отличава. В същото време напредъкът в роботиката може да докара до работещи с изкуствен интелект роботи, работещи по-добре от хората при физически труд като пакетиране на кутии, конструиране на домове, създаване на коли, изобразяване на фрески, рандеман на редки минерали и даже създаване на мебели от IKEA. 

Харесва ни да мислим, че в един съвършен свят най-хубавият претендент нормално получава работата и му се заплаща въз основа на равнището на търсене на техните умения. 

Но представете си, че човек в никакъв случай не е най-хубавият човек за работата. Това е свят, който чакат някои AI прогностици и лица, подаващи сигнали за нередности.

Това е свят, в който AI сътрудник или задействан с AI робот е по-добър във всяка задача и подзадача, която е нужна, с цел да свърши моята и вашата работа. Те се движат по-бързо от нас, мислят по-дълбоко, имат повече самообладание и устойчивост. Те дават отговор по-сърдечно на телефонни позвънявания, вършат по-задълбочени проучвания и по-сръчно боравят със скалпел или пила за нокти. Освен това те в никакъв случай не се нуждаят от сън или болнични, в никакъв случай не се появяват махмурлук или мрачни и в никакъв случай не заплашват да изоставен за по-добра работа. 

За да си представим по-ясно последователното отнемане от власт, ето един сюжет: Да речем, че управлявате Hammer Co., компания, която създава чукове. Имате линейни служащи, които оформят стоманените глави и дървените дръжки и по-късно ги инсталират дружно, и мениджъри, които поддържат фабриката да работи безпрепятствено. Имате хора, които поддържат веригата ви за доставки и екипи, с цел да се оправят с маркетинга, продажбите, счетоводството и всички други функционалности, които оказват помощ на бизнеса ви да процъфтява.

Но тогава се появява софтуерна компания с основани на AI Hammer Bots. Роботите служащи могат да вършат чукове доста по-бързо от вашите човешки служащи, до момента в който AI сътрудниците могат да ръководят бизнеса с малко контрол. Те ще работят цяла нощ, в никакъв случай няма да създадат неточности и ще костват доста по-малко от вашия благополучен, добре заплатен личен състав. Не желаете да уволнявате вашите човешки служащи. Виждате ги из града и в последна сметка познавате фамилиите им от години. 

Но вашият съперник получава Hammer Bots. Повечето клиенти просто желаят най-евтините чукове - не ги интересува кой или какво ги прави. Като основен изпълнителен шеф на Hammer Co. или се състезавате, или умирате. Така че уволнявате всичките си хора и получавате Hammer Bots, които да ги заменят. 

Сега се пробвайте да си визиите, че това е по този начин за всяка компания и всяка работа. С естествени тласъци на свободния пазар, компанията, която остава лоялна към своите човешки чиновници, ще бъде изпреварена от компанията, която кара AI да прави работата вместо това. 

Тук влиза в деяние последователното отнемане от власт.

Колкото по-малко хора вземат участие в труда и колкото повече работа се разпорежда на сътрудници с ИИ, толкоз повече човечеството става подвластно от ИИ за взимане на решения и толкоз повече човешки умения се утежняват. След какъв брой време ще бъдат забравени фините точки на правенето на чукове?

С AI, който взема всичките ни комплицирани решения вместо нас, хората стават по-малко способни да схващат и следят тези решения или да им се опълчват. 

„ Ако хората в действителност не практикуват уменията, които сътрудниците вършат за тях, те губят способността да имат това умеене и по този начин в този момент ставате разчитащи “, сподели Маргарет Мичъл, откривател на AI в Hugging Face и съавтор на друга скорошна публикация за значимостта на поддържането на хората в течение в свят на AI. 

„ Какво се случва, когато нещо се обърка? Няма човек, който да посочите, който може да го поправи. Така че в този момент сте станали изцяло подвластни от тези системи да се поправят сами и какво, в случай че това не е допустимо? “

Риск за демократичното ръководство

Не единствено стопанската система и труда са изложени на риск. Вземете да вземем за пример военните. Всички или множеството решения във война включват хора през днешния ден, даже в случай че AI способства за процеса, само че салдото евентуално ще се промени, когато технологията стане по-способна. 

Ако Съединените щати употребяват AI за взимане на решения в борба, враговете им в полето ще бъдат притиснати да създадат същото. Страната, която се обляга повече на хората, ще бъде по-бавна и по-малко ефикасна. Човешките бойци се нуждаят от храна и отмора. Войниците роботи няма. Хората, които вземат решения, са лимитирани в сюжетите, които могат да измислят и планират; AI може да вземе поради цялото човешко познание. 

„ Щатите се нуждаят от жители. Те се нуждаят от нас, тъй като плащаме налози и се борим за щатите в армията “, сподели Ян Кулвейт, съавтор на документа за последователно отнемане от власт и съосновател на ACS Research Group. 

Държавите също употребяват хора, с цел да постановат закони. Но какво ще стане, в случай че правоприлагането бъде напълно автоматизирано в бъдеще? 

„ Ако или когато съществуващите страни не се нуждаят от своите жители, е по-малко евентуално те да бъдат демократични “, сподели Кулвейт. 

Kulveit съпоставя теоретичните бъдещи страни, които се ръководят най-вече от AI, с петролните страни през днешния ден. Той сподели, че петролните страни са склонни да бъдат властнически, тъй като не разчитат на множеството от своите жители да заплащат налози и не се нуждаят от гласовете на жителите, с цел да ръководят. Държавите, които разчитат на ИИ, с цел да ръководят стопанската система и военните, биха могли да имат сходни резултати, сподели Кулвейт. 

Ако казусът е подобен и жителите към този момент не са гръбнакът на труда или войната в свят на последователно обезвластяване, тогава хората губят може би най-големия си лост против тези, които са на власт. 

„ Много хора приказват за подправен AI, който хаква центровете за данни и завладява света, само че не е в всеобщото схващане, че като AI може безусловно да превземе света, просто като продължи да прави това, което би трябвало да прави, което е автоматизиране на всичко “, сподели Джей Чуи от Robocurve.

„ Всички организации ще имат доста мощен стопански и политически напън, с цел да отстранен последователно хората и реалокират работата от ден на ден и повече в роботи или AI. "

Как човечеството заобикаля последователното отнемане от власт?

Отстъпването на контрола на хората на AI, споделят създателите на последователното отнемане от власт, е съвсем натурален преход, откакто доста напредналият AI е тук. 

Постепенното отнемане от власт „ не е належащо да произтича от умишлена скица или присвояване на властта от AI системи “, пишат Кулвейт и сътрудниците му. „ В кратковременен проект се подтиква от възприеманата стойност, която AI системите могат да донесат на стопански, културни и държавни функционалности. “

„ Не можем да бъдем в обстановка, в която се конкурираме с машините “, сподели Кулвейт. „ Защото, в случай че просто се състезаваме с машините, евентуално ще загубим. “

Авторите на последователното отнемане от власт считат, че прекъсването на нашето отнемане от власт може да бъде тежък товар за човечеството, защото включва комплицирани системи, които се зареждат една в друга – държавно управление, просвета и стопанска система. 

„ Това може да е по-голямо предизвикателство от елементарното попречване на AI системите да преследват намерено нездравословни цели “, пишат те. 

Една първа стъпка за закъснение на лишаването от власт е поддържането на знаци за това какъв брой работа се отстъпва на AI и какви характерни задания са в положение да обработват системите AI. Ако хиляди служащи са изместени от AI, да речем, в работни места в прът център, оказва помощ да се знае това в елементи. 

Но измерването не е задоволително без деяние, сподели Мичъл. Тя твърди, че премахването на хора от цикъла в процесите на ИИ по едно и също време утежнява надзора и утежнява уменията на човешкия надзирател. Следователно фирмите и управлението във всички области би трябвало да подхващат самодейни стъпки, с цел да поддържат хората ангажирани. 

„ Тази обща процедура в региона на технологиите е, че желаеме нашите системи да са без търкане “, сподели Мичъл, имайки поради концепцията, че всичко би трябвало да се движи бързо и без трудности. „ Има възприятието, че колкото по-малко търкания, толкоз по-добре, само че има подтик в границите на по-етичната AI общественост, че стратегическото триене може да е положително, тъй като може да притегли вниманието на хората към сериозни проблеми, които другояче биха могли да подценен. “

Мичъл твърди, че стратегическото триене – поддържане на хората в работния цикъл на авансово избрани стъпки – може да се направи както от разработчиците на AI, по този начин и от компании като OpenAI и Anthropic и Гугъл и от компании и организации, които внедряват AI. Обмисленият и целеустремен дизайн на AI може да бъде от изгода за обществото като цяло и за хората, които го употребяват. 

Kulveit е склонен, че AI би трябвало да бъде деликатно планиран да прибавя стойност към хората, а не безусловно да замества всяка наша задача. 

„ Искате да очертаете места, където сме съгласни, че няма да позволим конкурентен напън да отстрани хората от цикъла “, сподели той. „ Би било хубаво, в случай че фирмите обучат ИИ да бъдат по-допълнителни към хората. В момента ИИ са имплицитно подготвени да бъдат сурогат на хората. Но можете да си визиите да обучавате ИИ, тъй че да ни изясняват по-добре какво се случва. “ 

Kulveit разказва AI, който не просто бълва отговорите на какъвто и въпрос да му зададете, най-малкото в браншове, където е сериозно да се включи човешки опит и взимане на решения, като войната. Бързите и лесни отговори могат да бъдат потребни, само че също по този начин могат да ви създадат подвластни и лековерни, вярвайки на всичко, което чатботът ви споделя, без значение дали е вярно или неверно. 

Но AI може да бъде повече от това. Може да ви помогне освен като прави работата вместо вас, само че и като ви образова по пътя. По този метод човешкият служащ продължава да се учи, до момента в който употребява AI като сътрудник, а не като сурогат. 

„ Имаше подобен извънреден фокус върху опциите или функционалността на тези системи в ущърб на хората, в ущърб на потребителите “, сподели Мичъл. „ Ако единствената ви цел е да получите висок резултат на бенчмарк, тогава няма да вземете под внимание дизайна на когнитивната поддръжка. Но в случай че задачата ви е да извършите система, която работи в действителност добре за хората – да вземем за пример, в случай че конкуренцията е за помощна стратегия, а не за бенчмарк резултат – тогава в последна сметка проектирате фундаментално разнообразни системи. “

Ако последователното отнемане от власт в действителност е огромен риск спрямо по-обсъжданата крах сюжети - като AI, помагащ за планиране на биооръжия или химически оръжия - може да страда от относителна липса на бляскавост. 

„ Ние знаем какво значи робот да превземе света. Знаем какво значи страните да се унищожават една друга “, сподели Чоуи. „ ИИ, който завладява света, е доста разбираем в човешкото схващане. Но последователното отнемане от власт? Никой не е правил филм за последователно отнемане от власт. “

Но за Chooi последователното отнемане от власт е доста елементарно да си показа. 

„ Всички организации имат тласъците да го одобряват и последователно да отстранен хората “, сподели той. „ Това е доста разумно умозаключение. Не е доста мъчно да го видите. “