Anthropic предупреждава, че AI скоро ще може да се подобрява без човешка намеса

Вижте всички тематики Връзката е копирана! Следвайте Системите с изкуствен интелект може скоро да могат да се усъвършенстват без човешко присъединяване, развиване, известно като рекурсивно самоусъвършенстване. Съоснователят на Anthropic Джак Кларк предизвестява, че на промишлеността липсва спирачен педал, който да забави или спре развиването на AI. Кларк съпостави предизвикването с контрола върху нуклеарните оръжия от Студената война, предполагайки, че съперничещите AI компании би трябвало да си сътрудничат във връзка с сигурността.

AI моделите бързо се усъвършенстват – толкоз бързо, че скоро може да могат да се развиват сами без човешко присъединяване. Ето за какво Anthropic предизвестява AI промишлеността: Трябва да построи „ спирачен педал “ или фирмите рискуват да изгубят надзор над своите творения.

Системите с изкуствен интелект, които могат да се развиват сами, известни като „ цялостно рекурсивно самоусъвършенстване “, биха могли да имат капацитет за огромна изгода за науката и опазването на здравето, те също по този начин съставляват огромни опасности за човечеството, съгласно обява в блог, написана от Марина Фаваро, водач на The Anthropic Institute, и Джак Кларк, съосновател на Anthropic.

„ Пълното рекурсивно самоусъвършенстване също може да усили рисковете хората да изгубят надзор върху AI системите “, пишат те. „ Ако системите са в положение изцяло да изградят свои лични наследници, методите, по които ги пазиме, следим и оформяме държанието им, стават доста по-важни. “

Индустрията е доста по-близо до самоусъвършенстващия се AI, в сравнение с се очакваше преди, предизвестяват те. Така че софтуерните компании би трябвало да обмислят закъснение или прекъсване на граничното развиване на ИИ, с цел да дадат време на откривателите да схванат по-добре евентуалните публични вреди, които ИИ за самоусъвършенстване може да отприщи. Изследователите също би трябвало да изградят метод хората да се намесят, в случай че нещата излязат отвън надзор, споделиха те.

Появявайки се в CNN в четвъртък вечерта, Кларк прикани промишлеността да си даде „ педал на спирачката “.

" Когато погледна надолу към колата, която карам, всичко, което имам, е педал за газта. Нямам педал за спирачка и сигурно в някакъв миг в бъдещето може да желаеме тази алтернатива ", сподели той пред Андерсън Купър в изявление.

Купър повдигна образец с научнофантастични филми, в които ИИ се издигна, с цел да убива човешки същества, и попита дали това е, за което Кларк се тревожи.

„ Да, ние четем научна фантастика и гледаме научна фантастика тук, тъй че не сме не запомнили. “ Кларк отговори. „ Как поддържате надзор над флоти от учени, които са доста, доста по-големи и доста по-бързи от тези, които сте имали преди? “

Неспособността да се валидира, ревизира и се довери на държанието на AI съставлява сериозен риск за неговото развиване, добави той.

Предупреждението идва, откакто Anthropic подаде документи за първично обществено предложение на своите акции, стъпка, която може да набере десетки милиарди долари от вложители, с цел да форсира построяването на центрове за данни и компютри, нужни за AI. SpaceX, която в допълнение към своя бизнес с ракети и спътници има бизнес с изкуствен интелект, се чака да организира най-голямото записано IPO идната седмица, набирайки 75 милиарда $.

Това, че огромни AI компании като Anthropic, SpaceX и OpenAI работят дружно, с цел да основат спирачни педали, може да наподобява противоположно на конкурентен бизнес с милиарди, в случай че не и трилиони долари, заложени на карта. Но такова съдействие е допустимо, настоя Кларк.

" Правили сме това и преди. В разгара на Студената война, при мощно напрегнати обстановки сред съперничещи страни, те откриха способи да стабилизират аспекти на конкуренцията в нуклеарните оръжия ", сподели Кларк пред CNN. „ Всичко това е правено преди в други области и може да се наложи да бъде нещо, което вършим в региона на ИИ. “