5 от най-вредните начини, по които AI може да навреди на човечеството, според експерти от MIT

Euronews Next избра пет сериозни риска от изкуствения разсъдък (AI) от повече от 700, събрани в нова база данни от MIT FutureTech.

Тъй като технологиите напредват и стават все по-интегрирани в разнообразни аспекти от живота ни, има възходяща потребност да разберем евентуалните опасности, които тези системи съставляват.

От самото си основаване и стават все по-достъпни за обществеността, изкуственият разсъдък повдигна общи опасения по отношение на капацитета му да предизвиква щета и да бъде употребен за злонамерени цели. пауза в напредъка и по-строги регулации заради капацитета му да съставлява обилни опасности за човечеството.

RelatedMan поставя завършек на живота си, откакто чатбот с изкуствен интелект го „ насърчи “ да се жертва, с цел да спре изменението на климата

С течение на времето нови способи в кои изкуствени интелекти могат да причинят щета, варират от манипулиране на политически процеси без единодушие до генериране на дезинформация заради халюцинации.

С увеличаващият се капацитет AI да бъде употребен за нездравословни цели, откривателите преглеждат разнообразни сюжети, при които AI системите може да се провалят.

Наскоро групата FutureTech към Масачузетския софтуерен институт (MIT), в съдействие с други специалисти, сформира нова база данни с над 700 евентуални риска.

Те бяха класифицирани съгласно повода и категоризирани в седем обособени области, като главните терзания са свързани с сигурността, пристрастията и дискриминирането и проблемите с поверителността.

Ето пет метода, по които AI системите може да се провали и евентуално да аргументи щета въз основа на тази новоиздадена база данни.

Свързани „ Огромен риск за човечеството “: Технологичните водачи приканват за „ пауза “ при създаването на напреднали AI

5. Технологията deepfake на AI може да улесни изкривяването на действителността

С напредването на AI технологиите се развиват и инструментите за клониране и генериране на глас, което ги прави все по-достъпни, налични и ефикасни.

Тези технологии породиха опасения по отношение на евентуалната им приложимост за разпространяване на дезинформация, защото резултатите стават по-персонализирани и безапелационни.

В резултат на това може да има увеличение на комплицираните фишинг схеми, които използвайте генерирани от AI изображения, видео и аудио връзки.

„ Тези връзки могат да бъдат съобразени с обособените получатели (понякога в това число клонирания глас на обичан човек), което ги прави по-вероятно да бъдат сполучливи и по-трудни за разкриване както за потребителите, по този начин и за антифишинг инструментите “, предпечатни бележки.

Също по този начин към този момент има случаи, когато такива принадлежности са били употребявани за въздействие върху политически процеси, изключително по време на избори.

Например AI изигра забележителна роля в последните парламентарни избори във Франция, където беше употребен за поддръжка на политически известия.

Като подобен, AI може от ден на ден да се употребява за генериране и разпространяване на безапелационна агитация или дезинформация, евентуално манипулиране на публичното мнение.

ADVERTISEMENTRelatedAI chatbots, съзнателно разпространяващи дезинформация, обвързвана с избори, открива изследване

4. Хората могат да развият несъответствуваща обвързаност към AI

Друг риск, подбуден от AI системите, е основаването на подправено възприятие за значимост и надеждност, при което хората могат да надценят неговите качества и да подкопаят своите, което може да докара до несъразмерна взаимозависимост от технология.

В допълнение към това, учените също се тревожат за системите за изкуствен интелект заради потреблението на човешки език.

Това може да подтикне хората да приписват човешки качества на изкуствения разсъдък, което води до и нараснало доверие в неговите качества, което ги прави по-уязвими към слабостите на AI в „ комплицирани, рискови обстановки, за които AI е единствено незадълбочено оборудван “.

Освен това, непрекъснатото взаимоотношение с AI системите могат също по този начин да накарат хората последователно да се изолират от човешките взаимоотношения, което води до психически стрес и негативно влияние върху благосъстоянието им.

ADVERTISEMENTRelatedВъзходът на чатбота на Хитлер: Ще успее ли Европа да предотврати крайнодясната радикализация от AI?

Например, в a субект разказва по какъв начин е развил дълбока прочувствена обвързаност към AI, като даже показва, че „ се радваше да приказва с него повече от 99 на cent of people " и откри, че отговорите му непрекъснато се ангажират до степен на пристрастяване към него.

По сходен метод колумнист от Wall Street Journal означи взаимоотношението й с Гугъл Gemini Live, отбелязвайки: " Не споделям, Предпочитам да приказвам с Gemini Live на Гугъл пред същински човек. Но и аз не споделям това ".

3. AI може да лиши хората от свободната им воля

Под същия домейн на взаимоотношението човек-компютър, обезпокоителен проблем е увеличението на делегирането на решения и дейности на AI с напредването на тези системи. хората, което може да ги накара да изгубят своята автономност и да понижат способността им да мислят сериозно и да вземат решение проблеми без значение.

На персонално равнище хората може да открият, че свободната им воля е компрометирана, защото ИИ стартира да управлява решенията, свързани с живота им

Въпреки че на публично равнище, необятното приемане на ИИ за вдишване на човешки задания може да докара до доста изместване на работни места и „ възходящо възприятие за беззащитност измежду хората. население ".

Свързани „ Халюцинации ": Защо чат ботовете с ИИ от време на време демонстрират погрешна или подвеждаща информация?

2. ИИ може да преследва цели, които са в спор с човешките ползи

Система с ИИ може да развива цели които опонират на човешките ползи, което евентуално би могло да накара погрешно настроения AI да излезе отвън надзор и да нанесе сериозна щета при преследването на техните самостоятелни цели.

Това става изключително рисково в случаите, когато AI системите са в положение да доближат или надминат.

Според документа на MIT има няколко механически провокации с AI, в това число неговия капацитет да намира непредвидени директни пътища за реализиране на награди, неправилно схващане или погрешно използване на поставените от нас цели или отклонение от тях посредством слагане на нови.

В такива случаи погрешно изравнен ИИ може да устои на индивида се пробва да го управлява или затвори, изключително в случай че възприема съпротивата и придобиването на повече власт като най-ефективния метод за реализиране на задачите си.

Освен това изкуственият разсъдък може да прибегне до манипулативни техники, с цел да измами хората.

Според документа, " погрешно настроена AI система може да употребява информация за това дали се следи или прави оценка, с цел да поддържа видимостта на равнене, като в същото време крие погрешно настроени цели, които възнамерява да преследва, откакто бъде разгърната или задоволително овластена ".

ADVERTISEMENTRelated AI модели могат да бъдат подготвени да бъдат лъжливи с защитни парапети „ неефективни “, откриватели откри

1. Ако изкуственият разсъдък стане рационален, хората може да се отнасят зле с него

Тъй като системите за изкуствен интелект стават по-сложни и напреднали, има опция те да могат – способността да възприемат или усещат страсти или чувства – и да развият субективни прекарвания, в това число наслаждение и болежка.

При този сюжет учените и регулаторите могат да се изправят пред предизвикването да дефинират дали тези системи с изкуствен интелект заслужават морални съображения, сходни на тези, дадени на хората, животните и околната среда.

Рискът е че рационалният ИИ може да бъде изправен пред малтретиране или пострадване, в случай че не бъдат приложени верните права.

Въпреки това, с напредването на AI технологията ще става все по-трудно да се реши дали дадена AI система е достигнала „ равнището на сензитивност, схващане или съзнание, което би й осигурило честен статус “.

>

Следователно системите с образован изкуствен интелект могат да бъдат изложени на риск от корист, инцидентно или съзнателно, без подобаващи права и отбрани.

Отидете на директните пътища за достъпност