„Хазарт с живота ни“: Още един служител на AI напуска поради опасения за безопасността

Вижте всички тематики Връзката е копирана! Следвайте <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmttz89p900013b6rx9ju7cqt@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Хората, които основават AI, откровено имат вяра, че той може да убие всички ни до края на десетилетието. “

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmttzc6ko000j3b6r3ilyrguz@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Това директно самопризнание от някогашния чиновник на Anthropic Джейкъб Коксън провокира талази във вторник, когато преди малко напусналият 27-годишен откривател на AI разля чашата на излизане в тематиката за овакантяване на X.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmttzjl8g001g3b6rxcueagxx@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Колкото и тревожни и съществени да звучат разкритията на Коксън („ Това скоро ще бъдат гигантски системи, които могат да хакнат всичко, да революционизират всяка област за една нощ и да придобият действителна мощ и запаси “), те също не са нови. Anthropic стартира тъкмо по този метод, защото чиновниците на OpenAI, загрижени за протоколите за сигурност на компанията, напуснаха стартъпа на Сам Олтман, с цел да започват своя лична компания за изкуствен интелект, потвърждавайки, че техният метод е по-отговорен.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmttz3qmb001w28nm7qsy8ff8@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Притесненията стават нещо всекидневно. Редица чиновници на AI шумно напуснаха фирмите си заради опасения за сигурността през последните няколко месеца и години. Други обществено показаха опасения, че технологията се развива прекомерно бързо и един ден ще изпревари способността на хората да я управляват.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtu0bda5004f3b6r85ct8zug@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > През юли близо 1400 чиновници на AI компания подписаха отворено писмо, призоваващо държавното управление на Съединени американски щати да контролира технологията, с цел да овладее Big Tech и да забави темпото на AI, с цел да подсигурява неговата сигурност. А преди два дни основният академик на OpenAI Якуб Пачоцки предизвести, че опциите на ИИ напредват по-бързо от способността на откривателите да ги следят и управляват надеждно.

8 минути четене <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmttzv55d002t3b6r3wv1rw2y@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Сега един относително млад откривател стана последният, който бие паника.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtu2i5ih00ba3b6ru7x8cvey@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Те се състезават напряко към самоусъвършенстване на суперинтелекта и играят на хазарт с живота ни “, разгласява Коксън.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtu2i5b200b93b6rfg5sc5un@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Публикацията на Коксън притегли вниманието, откакто по-високопоставен чиновник на Anthropic, Евън Хюбингер, разяснява, че Коксън е прав.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtu0khsx00573b6rtadp53qe@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Ние в действителност откровено имаме вяра, че AI може да убие всички хора! “ Hubinger разгласява на X. Той сподели, че персонално има вяра, че шансът е под 10% през идващото десетилетие и макар положителните планове на Anthropic няма проект за отбягване на по този начин наречения суперинтелект, който може да надвиши способността на хората да управляват AI. Суперинтелигентността, положение, при което ИИ надминава човешките качества, е необятно обсъждан научен крайъгълен камък без пример, който някои откриватели на ИИ считат, че към този момент е реализиран, а други считат, че в никакъв случай няма да се появи.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtu0m7c4005l3b6r32n84w30@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Малко по-късно Hubinger обясни изказването си в следваща обява, че личният Risk Report на Anthropic признава загрижеността, само че споделя, че актуалният AI има дребен късмет да придобие такава мощност. В отговор на искане за коментар Anthropic уточни CNN последващата обява на Hubinger.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtu0veu900773b6rt2vqn97i@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Главният изпълнителен шеф на Anthropic Дарио Амодей също неведнъж предизвестява, че конкуренцията за бързо развиване на технологията може несъзнателно да докара до пагубна неточност, породена от индивида, която кара една компания да загуби надзор над своя AI.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtu0vide00793b6rsyd0hat5@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > " Това е комплициран инженерен проблем и мисля, че нещо ще се обърка с нечия AI система. Надяваме се, че не е нашата ", сподели Амодей пред New York Times през февруари.

Регулаторна стагнация

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmttzvwet002v3b6rizc041xj@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Въпреки непрекъснатия поток от предизвестия, регулирането наподобява надалеч. Администрацията на Тръмп интензивно работи за подкопаване на държавните регулации за изкуствен интелект и Конгресът до момента не желаеше да ограничи технологията. Често срещан рефрен: Всяко изпитание за контролиране на ИИ съставлява капитулация пред Китай, който не е подложен на сходни ограничавания.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtu0si9z006s3b6rf4t05gwr@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Освен това Китай вкара контролиране на ИИ, изключително ориентирано към ръководство на риска и сигурност. Миналата година държавното управление изиска от фирмите, занимаващи се с изкуствен интелект, да етикетират наличието, генерирано от изкуствен интелект, с цел да го създадат транспарантно и проследимо. Въпреки това Китай се опълчи на типа строги разпореждания, които биха предотвратили проблемите, повдигнати от откривателите от Силициевата котловина.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtu0rw39006o3b6run0iioai@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Междувременно най-малко в Съединени американски щати фирмите за изкуствен интелект са повече или по-малко виновни за самоконтрола.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtu1cnl3009e3b6rqciqyqs9@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Белият дом се придвижи към доброволна рамка за обзор на избрани модели на ИИ преди стартирането им в продажба, споделиха пред CNN източници, осведомени със срещата предишния месец сред администрацията на Тръмп и няколко водещи компании за ИИ.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtu1cnve009f3b6r4ug3lyxr@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Сред представителите са били тези от OpenAI, Anthropic, Гугъл и Meta, съгласно голям брой източници, осведомени със обстановката. Подробностите за рамката няма да бъдат оповестени обществено и доста от стандартите, избрани в нея, ще бъдат класифицирани, според изпълнителна заповед за рамката от юни.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtu1cnvf009g3b6rh6ljbs0q@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > През юли Алтман допусна, че може би е време да се забави развиването на AI, като сподели в подкаста Invest Like The Best, че неотдавнашните произшествия с тестване, включващи напреднали модели, повдигат „ дълготрайни въпроси “ за това по какъв начин фирмите за AI би трябвало да ръководят бързия прогрес в качествата.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtu1cnvf009h3b6rbzkrn2r3@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Може да се наложи да ускорим скоростта на развиване на AI, с цел да си дадем задоволително време на обществото да се втвърди към тези нови равнища на качества “, сподели Алтман.

Вижте всички теми