Ще ни помогне ли AI или ще ни навреди? Голям международен доклад казва, че не е сигурно

В огромен интернационален отчет за сигурността на изкуствения разсъдък се споделя, че специалистите не могат да се спогодят за риска, който съставлява технологията – и не е ясно дали AI ще ни помогне или ще ни навреди.

Докладът, управляван от канадския Йошуа Бенгио, заключава, че „ бъдещата траектория на ИИ с общо предопределение е извънредно несигурна. "

Той споделя, че „ необятен диапазон от траектории “ са вероятни „ даже в близко бъдеще, в това число както доста позитивни, по този начин и доста негативни резултати. “

Докладът беше поръчан на миналогодишната среща на върха за сигурността на изкуствения разсъдък, хазаин на Обединеното кралство, първата световна среща за изкуствения разсъдък.

Обединеното кралство изиска Бенджио, наименуван „ кръстник “ на ИИ и който е теоретичен шеф в Мила, Института за ИИ в Квебек, да ръководи отчета. Беше оповестен преди друга световна среща на върха за ИИ, която ще се организира в Сеул, Южна Корея, идната седмица.

„ Знаем, че напредналият ИИ се развива доста бързо и че има забележителна неустановеност по отношение на това по какъв начин те усъвършенстваните AI системи могат да повлияят на метода, по който живеем и работим в бъдеще, ” написа Bengio в отчета.

Правителството на Обединеното кралство съобщи в прессъобщение от петък, че отчетът е „ първият по рода си самостоятелен интернационален теоретичен отчет “ за сигурността на изкуствения разсъдък и че той ще „ изиграе основна роля “ в информирането на полемиките в Южна Корея идната седмица.

Група от 75 специалисти способства за отчета, в това число група, номинирана от 30 страни, Европейския съюз и Организация на обединените нации. Докладът, оповестен в петък, е промеждутъчен, като окончателната версия се чака до края на годината.

Той се концентрира върху AI системи с общо предопределение, като ChatGPT на OpenAI, които могат да генерират текст, изображения и видеоклипове въз основа на подкани.

В отчета се споделя, че специалистите „ не престават да не са съгласни по няколко въпроса, второстепенни и съществени, по отношение на качествата на ИИ с общо предопределение, рисковете и смекчаването на риска. “

Един от областите на спор са вероятността от „ опасности като широкомащабни въздействия върху пазара на труда, задействани от AI хакерства или биологични офанзиви, и обществото да загуби надзор над AI с общо предопределение. “

Докладът обрисува редица на рисковете, в това число вредите, които AI може да аргументи посредством подправено наличие, дезинформация и измами, както и хакерски атаки. Той също по този начин отбелязва пристрастията към рисковете в AI, изключително в „ домейни с високи залози като опазване на здравето, набиране на работа и финансово кредитиране. “

Един евентуален сюжет е, че хората ще изгубят надзор над изкуствения разсъдък, и не може да управлява технологията, даже в случай че може да предизвиква щета.

Докладът споделя, че има консенсус, че актуалната технология с общо предопределение не съставлява този риск, само че някои специалисти считат, че продължаващата работа за създаване на самостоятелен AI, който може да „ работи, възнамерява и преследва цели “, може да докара до подобен резултат.

„ Експертите не са съгласни по отношение на това какъв брой правдоподобни са сюжетите за загуба на надзор, по кое време могат да зародят и по какъв начин мъчно би било да ги смекчим “, се споделя в отчета.