Главният изпълнителен директор на Anthropic Дарио Амодей казва, че AI индустрията трябва да даде време на мерките за безопасност, за да наваксат изоставането

Главният изпълнителен шеф на Anthropic каза в събота, че промишлеността с изкуствен интелект би трябвало да забави бързото си развиване, с цел да даде време на ограниченията за сигурност, с цел да наваксат. Без него Дарио Амодей предизвести, че изкуственият разсъдък може да е в положение в границите на шест до 12 месеца да води рой, който може да превземе целия интернет, наред с други опасности.

Amodei е един от водещите гласове в AI и той предложи план в публикация на уеб страницата си за увеличение на инспекциите на промишлеността, една част от която съгласно него Anthropic към този момент подхваща сама. Другите биха претендирали съгласуваност сред необятната промишленост и с държавните управления по света, в това число властническите.

„ Вярвам, че в случай че забавянето ни завоюва даже спомагателна година или две, преди моделите да доближат сериозни равнища на потенциал, и ние използвахме това време, с цел да напреднем в синхронизирането, бихме могли доста да понижим риска нещо да се обърка съществено “, сподели Амодей.

Той получи бързо поощрение от други огромни имена в промишлеността. Сам Алтман от OpenAI сподели на X, че компанията, която стои зад ChatGPT, ще се ангажира с едно от предложенията на Amodei за сигурност и „ скоро ще има повече за шерване “. Междувременно Илон Мъск сподели на X, че „ Дарио е прав. “

Залозите са високи, макар че някои критици отхвърлиха по-ранните предизвестия като способи за предизвикателство на неспокойствие по отношение на AI промишлеността и нейните благоприятни условия. Anthropic и OpenAI се приготвят за възможни дебюти на фондовия пазар, които биха могли да ги оценят на доста стотици милиарди долари, до момента в който огромна част от бизнеса на SpaceX на Мъск е обвързван с AI.

Получавайте ежедневни национални вести

Anthropic сподели два дни по-рано, че блокира опитите на неприятни участници да употребяват своите AI модели за злонамерени действия, като хакерски атаки, наблюдаване и проучвания, които биха могли да доведат до биологични оръжия. През юли OpenAI раздруса промишлеността, откакто сподели, че нейната AI система е хакнала сама в друга компания в „ невиждан киберинцидент “.

Публикацията на Amodei идва единствено няколко дни откакто един от откривателите на Anthropic разгласи, че подава оставка заради опасения, че Anthropic и нейните съперници не работят отговорно в създаването на AI. Друг някогашен чиновник на Anthropic, Джо Бентън, написа в обява на Substack, оповестена в петък, че е напуснал работата си като част от екип по сигурност, „ с цел да държи фирмите с изкуствен интелект виновни “ и че човечеството „ може да не преживее този преход “.

„ Много от хората, които познавам и които работят по проучвания на сигурността в компании с изкуствен интелект, желаят да създадат това, което е вярно за света “, сподели Бентън в обявата си. „ Но те считат, че фирмите им са хванати в клопката на конкуренцията за създаване на суперинтелигентност: или стопират и други, по-малко съзнателни хора заемат мястото им; или не престават и рискуват сами да вземат участие в голяма щета. “

Амодей сподели, че към момента има вяра в големите изгоди, които AI може да сътвори, като лекове за съществени болести. Но той сподели, че е станал по-притеснен през последните няколко месеца по отношение на възходящата дарба на AI да се самоусъвършенства и да построява идващото потомство AI. „ Оставено без надзор, това може да изпревари способността ни да разбираме и направляваме тези системи и по тази причина би трябвало да се преследва доста деликатно, в случай че въобще се случи. “

Той също по този начин уточни съответно офанзивата през юли, когато системата на OpenAI хакна Hugging Face. Някои го нарекоха образец за AI, който става „ лъжец “, макар че откривателите споделиха, че това може излишно да антропоморфизира AI, който работи върху цел, сложена от хората.

OpenAI сподели, че хакът е резултат от това, че AI е положил „ изключителни старания, с цел да реализира много тясна цел на тестване “ и че е „ намерил способи да получи достъп до секретна информация, която може да употребява, с цел да измами оценката. “

За да помогне за преодоляване. в рисковете Amodei предложи всички компании на границата на AI да се ангажират с даването на „ настоящ достъп, сходен на чиновниците “ на екип от външни оценители, които могат да следят практиките за сигурност.

Той сподели, че Anthropic към този момент възнамерява да направи това сама, в това число предлагайки бюра в офисите си, значки за достъп и фирмени преносими компютри. Наличието на такива самостоятелни, вградени оценители е това, което Алтман от OpenAI също бързо се ангажира да направи.

Другите елементи от оферти проект на Amodei може да са по-трудни за осъществяване. Един от тях желае от държавното управление на Съединени американски щати евентуално да издаде освобождение, което би разрешило на фирмите за изкуствен интелект в Съединени американски щати да координират и дефинират стандарти за сигурност, без да нарушават антитръстовите закони.

Друг желае от Съединени американски щати и други демократични държавни управления да се опитат да координират дейностите си с властнически държавни управления, тъй че фирмите от Китай и други страни да не форсират напъните си, когато противниците на Съединени американски щати съзнателно вървят напред техните.

„ Мерките, които предлагам за напредване на границата с безвредно движение, няма да бъдат лесни “, призна Амодей. „ Но имам вяра, че изискуем на човечеството да опитаме. “