Китайски и западни учени идентифицират „червени линии“ на рисковете от ИИ

Водещи западни и китайски учени в областта на изкуствения интелект издадоха остро предупреждение, че справянето с рисковете около мощната технология изисква глобално сътрудничество, подобно на усилията от Студената война, за да се избегне ядрен конфликт.

Група от известни международни експерти се срещнаха в Пекин миналата седмица, където идентифицираха „червени линии“ в развитието на ИИ, включително около създаването на биооръжия и стартирането на кибератаки.

В изявление, видяно от Financial Times, публикувано в дните след срещата, академиците предупредиха, че е необходим съвместен подход към безопасността на ИИ, за да се спрат „катастрофални или дори екзистенциални рискове за човечеството в рамките на нашия живот“.

„В разгара на Студената война международната научна и правителствена координация помогнаха за предотвратяване на термоядрена катастрофа. Човечеството отново трябва да координира действията си, за да предотврати катастрофа, която може да възникне от безпрецедентна технология,” се казва в изявлението. често се описват като „кръстници“ на AI; Стюарт Ръсел, професор по компютърни науки в Калифорнийския университет в Бъркли; и Андрю Яо, един от най-известните китайски компютърни учени.

Изявлението последва международния диалог за безопасността на изкуствения интелект в Пекин миналата седмица, среща, която включваше служители от китайското правителство в знак на мълчаливо официално одобрение за форума и резултатите от него.

Събирането е част от натиска на академичната общност към технологичните компании и правителствата да си сътрудничат за безопасността на ИИ, по-специално чрез обединяване на двете световни технологични суперсили, Китай и САЩ .

Президентът на САЩ Джо Байдън и неговият китайски колега Си Дзинпин се срещнаха през ноември и обсъдиха безопасността на ИИ и се съгласиха да установят диалог по въпроса. Водещи AI компании по света също се срещнаха с китайски AI експерти при закрити врати през последните месеци.

През ноември 28 нации, включително Китай, и водещи компании за ИИ се договориха за широки ангажименти да работят заедно за справяне с екзистенциалните рискове, произтичащи от напреднали AI по време на срещата на върха за безопасността на AI на министър-председателя на Обединеното кралство Риши Сунак.

В Пекин миналата седмица експерти обсъдиха заплахи по отношение на развитието на „изкуствен общ интелект“ или AI системи, които са равни или по-добри от хората.

„Основен фокус на дискусията бяха червените линии, които никоя мощна AI система не трябва да пресича и които правителствата по света трябва да наложат при разработването и внедряването на AI“, каза Бенгио.

Тези червени линии се отнасят до все по-автономни системи, като изявлението гласи, че „нито една AI система не трябва да може да копира или подобрява сама себе си без изрично човешко одобрение и помощ“ или „да предприема действия за неоправдано увеличаване на своята сила и влияние“.

Учените добавиха, че никакви системи не трябва „съществено да увеличават способността на участниците да проектират оръжия за масово унищожение, да нарушават конвенцията за биологични или химически оръжия“ или да могат „автономно да извършват кибератаки, водещи до сериозни финансови загуби или еквивалентна вреда“ .

Допълнителен репортаж от Madhumita Murgia в Лондон

Последвайте ни в