Главният изпълнителен директор на Anthropic Дарио Амодей: „Твърде дълго индустрията лъжеше“ за рисковете от ИИ

„ Няма да ви неистина – има действителни рискове “, сподели основният изпълнителен шеф и съосновател на Anthropic Дарио Амодей по отношение на развиването на изкуствения разсъдък. „ И мисля, че прекомерно дълго промишлеността лъжеше хората по отношение на обстоятелството, че тази технология крие опасности. “

И най-големият риск може да бъде краят на човечеството, предизвести някогашният откривател на Anthropic Джейкъб Коксън в обществените медии предишния вторник, казвайки, че Anthropic и OpenAI „ залагат на животите ни “ с развиването на самоусъвършенстващ се суперинтелект.

„ Не наподобява толкоз друго от, да речем, „ Терминатор “ или от научнофантастични филми “, сподели Коксън пред CBS News в четвъртък. — Ще бъде задоволително мъдро да ни убие. 

В отговор Амодей сподели пред " Sunday Morning " през вчерашния ден в централата на Anthropic в Сан Франциско, " Не мисля, че просто оцених изцяло какво в действителност би било, когато напредъкът беше толкоз бърз, колкото беше. "  

Той сподели, че развиването на AI е било по експоненциална крива, която стартира да става все по-стръмна. Попитан какво значи това, Амодей сподели: „ Това не значи, че би трябвало да се паникьосваме през днешния ден. Това не значи, че би трябвало да затворим всичко. Но бих споделил, че това е сигнален знак. Това е сигнален знак, че би трябвало да забавим темпото. “

В есе, оповестено в събота, Амодей написа, че цялата софтуерна промишленост би трябвало да работи дружно, с цел да „ забави темпото “ на опциите на ИИ.

Запитан дали Anthropic ще спре да пуска по-усъвършенствани модели, Amodei отговори: „ Това не значи това. Означава, че би трябвало да сме сигурни, че всяко потомство модели, които пускаме, е вярно тествано. “

За да се опита това, Amodei споделя, че Anthropic в този момент ще даде на самостоятелни оценители непрекъснат „ сходен на чиновници “ достъп до техните модели. „ Винаги, когато някой основава модел на изкуствен интелект, има оценител от трета страна, който може да ревизира дали тази компания следва практиките за сигурност, с които се е заел – това е като контрольор по храните “, сподели той.

Но специалистите по изкуствен интелект споделят, че това надали е задоволително и Амодей се съгласява, като твърди, че поддържа федералното контролиране. Досега предлаганото законодателство варира от цялостна възбрана на суперинтелигентността до наложителен „ комутатор за изключване “, който може да изключи рисковия AI.

„ Превключвателят за изключване на AI може да бъде добра концепция “, сподели Амодей. „ Но не мисля, че възбраната й, цялостната й възбрана, е верният метод. Първо, концепцията, че в никакъв случай няма да получим невероятните изгоди, в никакъв случай няма да получим медицински лекувания, това не ми харесва. Второ, тази технология ще бъде построена в други страни, в това число властнически страни. “

Попитан дали Съединени американски щати би трябвало да забавят развиването на ИИ, в случай че Китай не го направи, Амодей отговори: „ Това е най-трудната алтернатива. Това е най-трудният аспект на нашата обстановка. "

Той гледа на споразуменията за нуклеарни оръжия с някогашния Съветски съюз като на евентуален модел, само че предизвестява, че даже упованията му са ниски. „ По-дългосрочното нещо би било да работим дружно за ограничение на скоростта на напредъка на ИИ “, сподели той. „ Мисля, че това ще бъде доста мъчно, тъй като тласъците да продължите напред във военното преимущество, което получавате от това, са толкоз огромни. И почтено казано, не знам дали е допустимо, само че би трябвало да опитаме. “ 

Със ориста на човечеството наподобява изложена на риск, какъв брой персонална отговорност усеща Амодей за това накъде отиваме? „ Моето мнение тук е, че постоянно е било доста необичайно тази технология да се построява от частна компания “, сподели той. „ Хората ми задават този въпрос от самото начало: Защо това не се построява от държавното управление? И най-странното е, че съм склонен с тях. Неудобно ми е. “

Попитан дали е подготвен да съобщи технологията на държавното управление, Амодей отговори: „ На вярната композиция от държавни управления. Притеснението, което имам – угрижен съм, че едно държавно управление може да злоупотреби с тази технология също толкоз елементарно, колкото и една компания. Но мисля, че композиция от демократично определени държавни управления, не знам за предаване, само че някакъв тип контрол, някакъв тип взаимно ръководство. "  

Въпросът към този момент не е дали AI ще стане задоволително мощен, с цел да изисква ограничаване, а кой на власт ще предприеме дейности. 

" Ако построяваме по верния метод, мисля, че вероятността нещо неприятно да се случи е доста ниска ", сподели той. „ Ако построяваме по неверен метод, вероятността нещо неприятно да се случи е доста висока. “

ЕКСКЛУЗИВНО ЗА УЕБ: Гледайте разширено изявление с Дарио Амодей (видео)

За повече информация: 

     
История, продуцирана от Джон Гудуин и Дъстин Стивънс. Редактор: Дженифър Фалк.

Вижте повече: