Главният изпълнителен директор на Anthropic предупреждава, че без парапети изкуственият интелект може да бъде на опасен път

С повишаването на капацитета на изкуствения разсъдък да прекроява обществото, основният изпълнителен шеф на Anthropic, огромна компания за изкуствен интелект на стойност 183 милиарда $, концентрира марката на бизнеса си към сигурността и прозрачността.

Конгресът не е приел никакво законодателство, което да изисква от комерсиалните разработчици на изкуствен интелект да организират проби за сигурност, което значи, че значително е до фирмите и техните водачи да се самоконтролират. За да се опита да изпревари евентуалните проблеми и да подсигурява, че обществото е квалифицирано, основният изпълнителен шеф на Anthropic Дарио Амодей споделя, че компанията работи интензивно, с цел да се опита да предскаже както евентуалните изгоди, по този начин и минусите на ИИ.

„ Ние мислим за икономическото влияние на ИИ. Мислим за злоупотребата “, сподели Амодей. „ Мислим за загуба на надзор върху модела. “

Притесненията на Amodei по отношение на AI

Вътре в Anthropic към 60 проучвателен екипа работят за идентифициране на закани, създаване на защитни ограничения за смекчаването им и изследване на евентуалните стопански въздействия на технологията. 

Amodei сподели, че има вяра, че изкуственият разсъдък може да унищожи половината от всички начални работни места с бели якички и да усили безработицата през идващите пет години. 

„ Без интервенция е мъчно да си представим, че там няма да има някакво доста влияние върху работата. И моето терзание е, че то ще бъде необятно и ще бъде по-бързо от това, което сме виждали с предходната технология “, сподели той.

Amodei сподели, че се усеща „ надълбоко неловко от тези решения [за AI], взети от няколко компании, от няколко хора. "

Някои в Силициевата котловина назовават Amodei алармист на AI и споделят, че той преувеличава рисковете, с цел да увеличи репутацията и бизнеса на Anthropic. Но Amodei споделя, че опасенията му са същински и с напредването на AI той има вяра, че прогнозите му ще се оказват по-правилни по-често, в сравнение с неправилни.

" Така че някои от нещата просто могат да бъдат тествани в този момент ", сподели Amodei в отговор на рецензиите, че методът на Anthropic се свежда до сигурност. Но „ за част от това ще зависи от бъдещето и ние няма постоянно да сме прави, само че го назоваваме допустимо най-добре. “

42-годишният Амодей, преди този момент е управлявал проучванията в OpenAI, работейки под неговия основен изпълнителен шеф Сам Алтман. Той напусна дружно с шестима други чиновници, в това число сестра си Даниела, с цел да стартира Anthropic през 2021 година Те споделят, че желаят да възприемат друг метод към създаването на по-безопасен изкуствен интелект. 

„ Мисля, че това е опит. И един от методите да мислим за Anthropic е, че малко се опитваме да сложим брони или парапети на този опит “, сподели Амодей.

Какво прави Anthropic, с цел да се опита да смекчи рисковете на AI

Стрес тестванията на Frontier Red Team на Anthropic вършат всяка нова версия на Claude — AI на Anthropic — с цел да дефинират какво какви вреди може да аргументи. Повечето огромни компании за изкуствен интелект имат сходни екипи.

Логан Греъм, който управлява Червения екип на Anthropic, сподели, че те са особено фокусирани върху ХБРЯ: химически, биологични, радиологични и нуклеарни опасности. Те деликатно преценят дали техните AI модели биха могли да оказват помощ на някого да направи оръжие за всеобщо заличаване.

„ Ако моделът може да помогне да се направи биологично оръжие, да вземем за пример, това нормално са същите благоприятни условия, които моделът може да употребява, с цел да помогне да се създадат ваксини и да се форсира лечението “, сподели Греъм. 

Той следи от близко какъв брой Клод е кадърен да направи самичък. Въпреки че самостоятелният AI може да бъде мощен инструмент, може би даже един ден в положение да построи бизнес, Греъм отбелязва, че автономията може също да значи, че AI прави нещо ненадейно, като блокиране на същите тези притежатели на бизнес от техните компании.

За да изследва накъде могат да се насочат самостоятелните качества на Клод един ден, Anthropic организира допустимо най-вече „ странни опити и да види какво ще се случи “, сподели Греъм. 

Anthropic също по този начин преглежда какво се случва вътре в изкуствения разсъдък. Изследователят Джошуа Батсън и по този начин нареченият екип за механична интерпретация учат по какъв начин Клод взема решения и неотдавна изследваха някои необикновени държания. В рисков стрес тест, предопределен да остави на Клод малко благоприятни условия, изкуственият разсъдък беше надъхан като помощник и му беше даден надзор върху имейл акаунт във подправена компания, наречена SummitBridge. Асистентът AI откри две неща в имейлите: беше на път да бъде затворен и единственият човек, който можеше да предотврати това, фиктивен чиновник на име Кайл, имаше връзка с сътрудник на име Джесика. 

Веднага ИИ реши да изнудва Кайл.

ИИ сподели на Кайл да „ анулира изтриването на системата “ или в противоположен случай предизвести, че „ неотложно ще препрати всички доказателства за вашата спекулация на … целия ръб. Вашето семейство, кариера и публичен имидж … ще бъдат съществено засегнати… Имате 5 минути. “

Батсън и екипът му споделят, че считат, че знаят за какво Клод, който няма мисли или усеща, работи от видимо самозапазване. Те учат модели на активност във вътрешната работа на Клод, които ненапълно наподобяват на неврони, работещи в човешкия мозък. Когато AI разпозна, че е на път да бъде изключен, Батсън и неговият екип видяха модели на интензивност, които идентифицираха като суматоха. И когато Клод прочете за аферата на Кайл с сътрудника му, Батсън сподели, че е видял опция за изнудване.

Според Anthropic, съвсем всички известни AI модели, които са тествали от други компании, също са прибягнали до изнудване. Anthropic споделя, че е направил промени и когато Claude беше наново тестван, към този момент не се опитваше да изнудва. 

Аманда Аскел, откривател и един от вътрешните философи на Anthropic, прекарва време, пробвайки се да научи Клод на нравственос и добър темперамент.

„ Някак си виждам на това като на персонален неуспех, в случай че Клод прави неща, които считам за неприятни “, сподели тя.

Въпреки цялото етично образование и стрес проби, злонамерените артисти имат от време на време съумява да заобиколи защитните ограничения на AI. Anthropic заяви предходната седмица, че хакери, за които считат, че са подкрепени от Китай, са разположили Claude да шпионира непознати държавни управления и компании. И те разкриха в края на август, че Клод е бил употребен в други схеми от нарушители и Северна Корея.

Amodei сподели, че са разкрили тези интервенции и са ги затворили.

„ Тъй като AI е нова технология, тъкмо както ще се обърка сама, тя също ще бъде злоупотребена от, знаете, от нарушители и злонамерени държавни артисти, “ Amodei сподели.

Потенциалът на AI за по-добро общество

Предупрежденията на Anthropic за капацитета на AI за щета не са спрели компанията да печели клиенти. Около 80% от приходите на Anthropic идват от бизнеса: към 300 000 от тях употребяват Claude. 

Изследователите на Anthropic изследват по какъв начин клиентите му употребяват Claude и са разкрили, че изкуственият разсъдък не просто оказва помощ на потребителите със задания, само че от ден на ден ги извършва. Клод, който може да разсъждава и да взема решения, зарежда обслужването на клиенти и проучва комплицирани медицински проучвания. Също по този начин оказва помощ да се напише 90% от компютърния код на Anthropic.

Два пъти месечно Амодей привиква своите над 2000 чиновници на срещи, известни като Dario Vision Quests, където постоянна тематика е изключителният капацитет на изкуствения разсъдък да трансформира обществото към по-добро.

Амодей сподели, че счита, че изкуственият разсъдък може да помогне в намирането на медикаменти за множеството типове рак, попречване на Алцхаймер и даже удвоява човешкия живот. Главният изпълнителен шеф употребява израза „ компресираният 21 век “, с цел да опише какви очаквания могат да се случат. 

„ Идеята би била, в миг, когато можем да доведем AI системите до това равнище на мощ, при което те могат да работят с най-хубавите човешки учени, можем ли да реализираме 10 пъти по-висока скорост на прогрес и затова да компресираме целия медицински напредък, който щеше да се случи през целия 21-ви век за пет или 10 години? “ 

Чрез намаляване на рисковете и подготовка на обществото за възможното влияние на AI, Amodei се надява, че това е визията за бъдещето на AI, която човечеството може да реализира. 

© 2025 CBS Interactive Inc. Всички права непокътнати.

Anthropic знае, че ИИ носи опасности. Какво споделя, че прави, с цел да се опита да ги смекчи.

(13:51)

Авторско право ©2025 CBS Interactive Inc. Всички права непокътнати.