Сам Алтман, Дарио Амодей призовават Съвета за сигурност на ООН да приеме международни стандарти за ИИ

Вижте всички тематики Връзката е копирана! Следвайте <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmuegnfze000x27qladsyg03r@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Лидерите на две от най-големите компании за ИИ в света нормално са гневни противници. Но пред Съвета за сигурност на Организация на обединените нации в сряда те бяха единомислещи: AI промишлеността се нуждае от интернационалните стандарти и съдействие или рискува световната сигурност.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmueo52d6000f3b6qdbvasm64@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Главният изпълнителен шеф на OpenAI Сам Алтман и основният изпълнителен шеф на Anthropic Дарио Амодей приказваха поотделно пред съвета, само че и двамата приканиха международните водачи да се обединят, с цел да оказват помощ за ръководството на заканите, изпратени от бързото развиване и благоприятни условия на ИИ.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmueo52d6000g3b6qvc5e0tux@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Ако не, сподели Амодей, „ ИИ може да съставлява риск за човечеството като цяло “.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmueo52d6000h3b6qfraf90nx@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Техните забележки пристигнаха след седмици на световни апели, в това число в границите на личните им компании, да забавят темпото на развиване на AI след няколко случая с лъжливи сътрудници на AI. В някои случаи AI сътрудниците са хакнали системи на други компании.

3 минути четене <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmueo52d6000i3b6q364ri60b@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Говорейки персонално, Алтман прикани групата да сътвори интернационалните стандарти за „ премерване на качествата, оценка на рисковете, установяване дали защитните ограничения са задоволителни и опазване на логичен човешки контрол “ върху бързо напредващата технология.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmueo52d6000j3b6qt072ze9w@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Той сподели, че страните се нуждаят от тъкмо и бързо докладване, тъй че „ светът да може да се поучи от неуспехите, преди те да се трансфорат в произшествия “. Освен това той предложи сигурни канали за шерване на информация сред държавните управления по отношение на зараждащи закани.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmueo52d6000k3b6q80znvgq0@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Трябва да се означи обаче, че Алтман прикани значимите решения да се вземат от демократичните институции от държавните управления, „ виновни пред хората, на които служат “, което би могло да изключи страни, които вършат бързи лични разработки на ИИ, като Китай.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmueo52d6000l3b6qw9jx803e@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Говорейки посредством видео, Amodei предложи три хрумвания за интернационално съдействие: тесни световни съглашения като възбрана за потребление на AI за основаване на биологични оръжия, системи за оценка и инспекция, тъй че страните да могат да ревизират уговорките си взаимно и общи световни стандарти за тестване на AI дружно със система за известяван за произшествия със сигурността на AI.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmueo52d6000m3b6qxytozr8e@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Вярвам, че това е най-важният проблем за световната сигурност, пред който е изправен светът през днешния ден “, сподели Амодей. „ Въпреки всички разлики на хората в тази зала, ние би трябвало да оставим настрани тези разлики, с цел да се надигнем против тази световна опция и световна опасност, които ни се показват по едно и също време. “

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmueo52d6000n3b6qrg5d50k3@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Алтман сподели, че всяка опция за злополука, породена от ИИ, е неприемлива.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmueo52d6000o3b6q08y2qqck@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Но той също по този начин сподели, че не желае да попадне в „ клопката на думеризма “ или „ клопката на слепия оптимизъм “, имайки поради конкуриращите се лагери, които се появиха в AI промишлеността през последните седмици: едната страна предизвестява, че AI може да унищожи човечеството, а другата назовава сходни предизвестия хиперболични и споделя, че AI ще донесе голям прогрес на човечеството.

4 минути четене <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmueo52d6000p3b6q29yqicfg@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Изпадането в някоя от двете крайности няма да ни помогне сполучливо да разберем провокациите пред нас “, сподели Алтман, „ изключително във време, когато светът и неговите хора са изправени пред такива големи провокации, за разрешаването на които тази технология може да помогне. “

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmueo52d6000q3b6qswgoiv0h@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Не се чака да излязат писмени съглашения от тази среща на Организация на обединените нации. Представител на OpenAI предложи на кореспонденти преди речта на Алтман, че това е опция да се изведе „ ядрото на концепция, с цел да се провокира този диалог “.

Вижте всички тематики Връзката е копирана! Следвайте