Хората са „близо до това да бъдат надхитрени“ от суперинтелигентността, казва експерт по изкуствен интелект

Притеснително предизвестие от някогашен откривател в компанията за изкуствен интелект Anthropic насочва вниманието към „ суперинтелигентността “ – технология, която може да надмине хората при всяка когнитивна задача.

В нишка от 8 септември в обществените медии обявявайки оставката си, откривателят Джейкъб Коксън упрекна Антропен и противник OpenAI на „ хазарта с живота ни “ посредством гонене на суперинтелигентност. В обвързвана обява на X водещият откривател на Anthropic Евън Хюбингер сподели, че има повече от 10% късмет изкуственият разсъдък да „ може да убие всички хора “ през идващото десетилетие.

Предупрежденията повдигат въпроси за това какво е суперинтелект, какъв брой близо са фирмите до създаването на такива софтуерни качества и за какво някои специалисти считат, че може да заплаши работните места, националната сигурност и даже човечеството самия себе си.

Суперинтелектът се отнася до изкуствения разсъдък, който „ може доста да надмине всички хора всъщност по всички когнитивни задания “, съгласно петиция за прекъсване на развиването на суперинтелекта от нестопанската организация Future of Life Institute, която събра подписи от хора като известния компютърен академик Джефри Хинтън, който е прочут като „ кръстника на AI. "  

„ Представете си да вземем за пример някакъв ИИ или голям клъстер от ИИ, които дружно са по-умни от цялото човечество дружно, от всичките 8 милиарда от нас “, сподели Макс Тегмарк, професор в Масачузетския софтуерен институт, който специализира в проучванията на ИИ, пред CBS News. — Това сигурно ще се брои.

Изследователите също по този начин показват угриженост, че свръхинтелигентните AI ще бъдат следени единствено от няколко компании, което им дава голяма мощност и усилва рисковете от корист.

„ Ние сме толкоз покрай това да бъдем надхитрени “

Разбира се, концепцията, че AI в последна сметка може да доближи или надмине човешкия разсъдък, не е нова — и остава хипотетична. Например английският математик I.J. Гуд написа за основаването на „ свръхинтелигентна машина “ през 60-те години на предишния век, определяйки я като нещо, което може да „ надмине всички интелектуални действия на всеки човек, колкото и интелигентен да е той “.

Ръководителите на компанията за изкуствен интелект също открито признават рисковете, свързани с технологията, в това число заплахата, която изкуственият разсъдък може да съставлява за човечеството като цяло, както предизвестиха Коксън и Хюбингер. 

„ Новото е фактът, че се приближаваме толкоз покрай това да бъдем надхитрени “, сподели Тегмарк.

Въпреки че суперинтелигентността не е реализирана, AI сътрудниците през днешния ден към този момент потвърждават, че са способни да работят самостоятелно и в съдействие. Това включва дейности по способи, които наподобяват предопределени да избегнат откриването, както се вижда от неотдавнашния случай, при който тестван с OpenAI AI модел се подведе и хакна AI компанията Hugging Face.

Страх от загуба на надзор

Основната опасност, подбудена от суперинтелигентния AI, е, че инструментите стават все по-трудни за управление от хората, споделиха специалисти пред CBS News.

„ Те даже не могат подравняват или управляват своите AI през днешния ден и AI на бъдещето ще бъдат доста по-умни и по-трудни за схващане “, написа Даниел Кокотайло, някогашен откривател на OpenAI, който в този момент управлява плана AI Futures, в обява в обществените медии на 8 септември. „ Дори и да съумеят, те ще са основали най-интензивната централизация на власт в човешката история – нов неестествен тип суперинтелигентност, подчиняваща се на командите и полезностите на дребна шепа хора. “

Той добави: „ Тази обстановка е безумна и не би трябвало да бъде разрешено да продължава. “

Тегмарк се съгласи, че развиването на AI се движи с цялостна скорост, хората могат да изгубят контрола си върху технология.

„ Ако просто позволим на една изцяло неограничена конкуренция да построи милиарди суперинтелигентни роботи, тогава мисля, че вероятността е доста над 50%, че ще загубим надзор над това през идващите няколко десетилетия “, сподели той пред CBS News.

Кога може да се появи суперинтелигентността?

Това е движеща се цел и зависи кого питате. Но AI Futures Project пресмята, че суперинтелигентните технологии могат да се появят в границите на идващите 1 до 10 години, написа групата в сюжет, проучващ развиването на AI.

„ Индустрията се е убедила, че управлението на суперинтелигентния AI може да бъде измислено в придвижване и затова няма съответен от разстояние проект “, написа групата. 

Други считат, че развиването на суперинтелигентността остава доста години в бъдещето.

„ Системите с изкуствен интелект през днешния ден не се приближават до или надвишават общите качества на хората “, сподели Мелани Мичъл, професор в института Санта Фе.

Даръл Уест, старши помощник в института Брукингс, който се концентрира върху технологиите и изкуствения разсъдък, сподели, че ще отнеме години, в случай че не десетилетия, преди AI да може изчерпателно да дава отговор на уменията на човешко равнище. AI се усъвършенства, само че хората към момента имат превъзходство в умения като многозадачност, сподели той.

Въпреки че специалистите не са съгласни по отношение на графика за развиване на суперинтелигентност, те като цяло са съгласни, че основен пробив ще пристигна, когато AI може да се усъвършенства самичък без човешка интервенция – идея, която откривателите на AI назовават „ рекурсивно самоусъвършенстване “.

„ AI, който може да се учи без значение и по-късно да работи върху това ново познание – това е, на което хората би трябвало да извърнат внимание “, сподели Уест.

Положителни страни на суперинтелигентността?

Бъдещето на ИИ не е безусловно тъмно, акцентират специалистите по ИИ. Мичъл означи, че има ясни позитивни страни за създаването на извънредно кадърен AI.

„ Знаете, че към този момент сме виждали това с научни пробиви... нови подходи за прогнозиране на времето благодарение на AI, нови подходи към дизайна на медикаменти “, сподели тя пред CBS News.

Въпреки това, методът, по който фирмите за AI образоват своите модели, не е безусловно съгласуван с цели, които могат да бъдат от изгода за човечеството, Мичъл сподели.

Фокусът е върху основаването на мултиагентни системи, които споделят дружно, сподели тя и добави: „ Не е ясно дали това е нещото, от което в действителност ще се нуждаем за типовете приложения, които желаеме. “

Някои законодатели показват угриженост по отношение на рисковете, подбудени от AI, като сенаторът Бърни Сандърс, самостоятелен от Върмонт, и конгресменът Грег Касар, демократ от Тексас, споделят по-рано този месец те възнамеряват да вкарат Закона за възбрана на изкуствения суперинтелект. 

„ Лидерите на огромните компании за ИИ обществено признават, че не схващат изцяло технологията и че тя се изплъзва от контрола им “, сподели Сандърс в изказване от 3 септември. „ Безотговорно е обществото да им разреши да вървят напред и да създадат тези артикули още по-напреднали. “

Редактирано от Ален Шертър

Навлезте по-дълбоко с The Free Press

В:

© 2026 CBS Interactive Inc. Всички права непокътнати.

Бивш откривател на Anthropic споделя, че има вяра, че отвън надзор създаването на ИИ може да „ убие всички ни “

(03:12)

Авторско право ©2026 CBS Interactive Inc. Всички права непокътнати.