Китайски и западни учени идентифицират „червени линии“ на рисковете от ИИ

Водещи западни и китайски учени в региона на изкуствения разсъдък издадоха остро предизвестие, че оправянето с рисковете към мощната технология изисква световно съдействие, сходно на напъните от Студената война, с цел да се избегне нуклеарен спор.

Група от известни интернационалните специалисти се срещнаха в Пекин предходната седмица, където идентифицираха „ червени линии “ в развиването на ИИ, в това число към основаването на биооръжия и стартирането на хакерски атаки.

В изказване, забелязано от Financial Times, оповестено в дните след срещата, учените предизвестиха, че е нужен взаимен метод към сигурността на ИИ, с цел да се спрат „ пагубни или даже екзистенциални опасности за човечеството в границите на нашия живот “.

„ В разгара на Студената война интернационалната научна и държавна съгласуваност помогнаха за попречване на термоядрена злополука. Човечеството още веднъж би трябвало да координира дейностите си, с цел да предотврати злополука, която може да възникне от невиждана технология, ” се споделя в изказването. постоянно се разказват като „ кръстници “ на AI; Стюарт Ръсел, професор по компютърни науки в Калифорнийския университет в Бъркли; и Андрю Яо, един от най-известните китайски компютърни учени.

Изявлението последва интернационалния разговор за сигурността на изкуствения разсъдък в Пекин предходната седмица, среща, която включваше чиновници от китайското държавно управление в символ на безмълвно публично утвърждение за форума и резултатите от него.

Събирането е част от натиска на академичната общественост към софтуерните компании и държавните управления да си сътрудничат за сигурността на ИИ, по-специално посредством сливане на двете международни софтуерни суперсили, Китай и Съединени американски щати.

Президентът на Съединени американски щати Джо Байдън и неговият китайски сътрудник Си Дзинпин се срещнаха през ноември и разискаха сигурността на ИИ и се съгласиха да открият разговор по въпроса. Водещи AI компании по света също се срещнаха с китайски AI специалисти при закрити порти през последните месеци.

През ноември 28 народи, в това число Китай, и водещи компании за ИИ се договориха за необятни задължения да работят дружно за справяне с екзистенциалните опасности, произлизащи от напреднали AI по време на срещата на върха за сигурността на AI на министър-председателя на Обединеното кралство Риши Сунак.

В Пекин предходната седмица специалисти разискаха закани във връзка с развиването на „ неестествен общ разсъдък “ или AI системи, които са равни или по-добри от хората.

„ Основен фокус на полемиката бяха алените линии, които никоя мощна AI система не би трябвало да пресича и които държавните управления по света би трябвало да наложат при създаването и внедряването на AI “, сподели Бенгио.

Тези червени линии се отнасят до все по-автономни системи, като изказването гласи, че „ нито една AI система не би трябвало да може да копира или усъвършенства сама себе си без категорично човешко утвърждение и помощ “ или „ да подхваща дейности за безпричинно увеличение на своята мощ и въздействие “.

Учените прибавиха, че никакви системи не би трябвало „ значително да усилват способността на участниците да проектират оръжия за всеобщо заличаване, да нарушават конвенцията за биологични или химически оръжия “ или да могат „ самостоятелно да правят хакерски атаки, водещи до съществени финансови загуби или еквивалентна щета “.

Допълнителен репортаж от Madhumita Murgia в Лондон