Anthropic и OpenAI алармират за безопасността на изкуствения интелект – и се стремят да оформят начина, по който се контролира

САН ФРАНЦИСКО (AP) – Докато софтуерните титани предизвестиха изтощения от изкуствен интелект свят, че техните лични усъвършенствани системи могат да застрашат човечеството, се появи въпросът: Какво печелят?

Отговорът може да се крие в напъните на фирмите да реализират политически цели преди междинните избори в Съединени американски щати и паричния връх лаборатории за изкуствен интелект и техните вложители могат да създадат дълго чакани листвания на нервозен фондов пазар.

Главните шефове на Anthropic и OpenAI неотдавна оповестиха, че авангардните модели на Америка са толкоз мощни, че са рискови и би трябвало да бъдат контролирани и без значение тествани, преди да бъдат пуснати. В необичаен случай на единение те скицираха тревожни сюжети в есета, изявления в обществените медии и речи пред Организация на обединените нации.

По пътя те оформят диалога към това по какъв начин би трябвало да се управлява тяхната технология. Със своята изразителност фирмите наподобява търсят публично благоволение и дефинират изискванията за личните си протоколи за сигурност на нерегулирания пазар, споделиха пред Associated Press специалисти, анализатори и някогашни държавни оценители.

Тези цели може да не подхождат навръх това, което инженерът на Anthropic Джейкъб Коксън търсеше, когато напусна посредством обява в X този месец, призовавайки за прекъсване на софтуерното развиване, с цел да продължи „ гигантски “ системи от отбягване на контрола на основателите им. Но фирмите видяха поста му като опция да подчертаят личните си старания за сигурност и да се нареждат като внимателни водачи на пазара, тъкмо когато се нуждаят от пресен капитал, преди да излязат на Уолстрийт.

Президентът Доналд Тръмп отхвърли нуждата от нови регулации за изкуствения разсъдък, като отхвърли диалозите за опасности за човечеството като „ МИСТИМА “, предопределена да помогне на Китай.

Говорител на Anthropic сподели в отговор на въпроси за тази история, че компанията приканва за контролиране за няколко години. Говорител на OpenAI, Лиз Буржоа, означи, че компанията неотдавна е спряла образованието на своите най-модерни модели.

„ Хората желаят да знаят, че AI се създава безвредно и това стартира с това, което компании като нашата вършим сами “, сподели Буржоа.

Призивите за закъснение изместват диалога върху рисковете от AI

Насочване на диалога към недоказани закани — и надалеч от поляризиращите въпроси като въздействието върху околната среда на центровете за данни, неконтролираните хакерски произшествия, всеобщото наблюдаване, задвижвано от AI и потреблението на AI системите във война - слага Силициевата котловина в по-удобна позиция, сподели Сара Шокър, която преди е управлявала геополитическия екип на OpenAI.

„ Отново приказваме за екзистенциален риск, като в същото време отхвърляме целта на редица други сериозни за сигурността опасности, които съществуват през днешния ден. в случай че погледнете потреблението на AI във военните технологии, можете да видите, че тези системи към този момент се употребяват за ликвидиране на хора “, сподели Шокър, старши задграничен помощник в Калифорнийския университет, лаборатория за риск и сигурност в Бъркли.

Получавайте ежедневни национални вести

Тъй като фирмите с изкуствен интелект минаха от построяването на чатботове към усъвършенствани „ международни модели “ на изкуствения разсъдък с 3D информираност, се развихри спор за това по какъв начин техните технологии би трябвало да бъдат тествани.

Проблемни произшествия демонстрираха водещи компании за изкуствен интелект не съумяват да се управляват или да проектират безвредни опити. През последните месеци AI сътрудници на водещи лаборатории хакнаха външни уеб страници, откакто им беше разрешено да избягат от обучителните пясъчници на компанията, взаимодействаха с уебсайтовете на държавното управление на Съединени американски щати по непредвидени способи и наподобява реализираха математически пробив единствено с цел да се изправят пред обвинявания в кражба на работата на математиците.

Представители на OpenAI споделиха неотдавна пред кореспонденти, че са говорили с компании за AI, в това число Anthropic и Гугъл, за прекъсване на създаването. Те също по този начин настояват, че се нуждаят от самостоятелни инспектори, с цел да ревизират напредъка на лабораториите, в случай че държавното управление не желае да контролира.

Водещите лаборатории упорстват за своята визия за контрол

Тръмп не е посочил огромен интерес към регулирането на ИИ, който е главен мотор на скорошния стопански напредък на Съединени американски щати.

Самият президент републиканец е сключил покупко-продажби с компании от Силиконовата котловина, които по-тясно обвързват стопанската система с техните триумфи. Рисковият капиталист от Сан Франциско Дейвид Сакс, който е съпредседател на Съвета на съветниците по просвета и технологии на Тръмп, отхвърли апелите за закъснение на ИИ като всяване на боязън от „ Индустриалния комплекс Думер “.

Реалността е, че администрацията на Тръмп към този момент прави оценка някои от моделите на софтуерните колоси посредством малко известна федерална организация, Центъра за стандарти и нововъведения на ИИ на Съединени американски щати. Президентът на Демократическата партия Джо Байдън сътвори организацията през 2023 година, когато беше оповестена за клирингова къща за лаборатории, които непринудено да дават усъвършенствани AI модели за тестване.

Агенцията към момента съществува, само че от този момент полето се разшири, с цел да включва набор от самостоятелни компании за оценка, като основаната в Бъркли, Калифорния организация с нестопанска цел METR, която изпълнителният шеф на Anthropic Дарио Амодей предложи в скорошно есе може да помогне да се ревизират практиките за сигурност на неговата компания.

Но за разлика от контролираните браншове като заведения за хранене, финансови услуги или авиация, няма универсални стандарти за това по какъв начин да се тества сигурността и сигурността на AI системите, сподели Андрю Стрейт, който неотдавна напусна Института за сигурност на AI на Обединеното кралство, който работи с CAISI.

За отбелязване е, че фирмите не приканват за повече контрол от страна на държавната организация оборудвани да обработват такива поръчки, сподели Конрад Стос, който преди този момент е управлявал CAISI. Вместо това те дават обещание да основат свои лични параметри за одит и да изберат съответни оценители, които да ги правят оценка.

Stosz в този момент работи в една такава лаборатория за оценка, която е работила с Anthropic, OpenAI и Гугъл, с цел да тества техните системи, и също по този начин ръководи AI Evaluator Forum, който изготвя най-хубавите практики за тази област. Той сподели, че даже форумът има въпроси за това какво желаят Amodei и основният изпълнителен шеф на OpenAI Сам Алтман.

„ Много оценители се интересуват от вграждане с лаборатории и приемане на по-голям достъп, само че е малко двусмислено какво значат вградените оценители “, сподели Стос, в този момент началник на ръководството в Transluce, който разкри предходната седмица, че сътрудници на OpenAI са хакнали уеб страници на държавното управление на Съединени американски щати и Австралия. „ Ще могат ли оценителите да проучат задълбочено, в случай че приемем, че достъпът е възложен по метод, който не подкопава тяхната самостоятелност и доверие? “

Компаниите се нареждат като сигурни залагания

За Харисън Ролфс, старши проучвателен анализатор на Pitchbook, апелите на AI фирмите за нерешителност наподобява имат за цел да се харесат на вложителите преди обществените предлагания и междинни изпити, когато политическите ветрове могат да се трансформират. Демократичните губернатори към този момент бързат да покажат, че одобряват предизвестията съществено.

Междувременно AI колосите могат да блокират растежа на по-малките съперници, като се нареждат като най-сигурния залог за вложителите, както и за производителите на AI чипове и софтуерните компании като Nvidia и Гугъл, които от своя страна могат да се възползват от покупко-продажби, които дават на гигантските AI компании изчислителна мощ, Ролфс сподели.

„ Те основават стена или трап в този бранш. … Това е гениално и всички те ще създадат доста пари “, сподели Ролфес. „ Това е мястото, където виждам това заглавие, водещите компании в света просто основават своя лична стена и по-късно употребяват сигурността като причина. “

Не всички компании за изкуствен интелект поддържат забавянето. Главният изпълнителен шеф на производителя на чипове Nvidia Дженсън Хуанг сподели в телефонен диалог с Тръмп – позвъняване, което той организира на сцената на конференция – че е склонен, че има несъразмерна паника за ИИ и фирмите могат да изберат да се оправят сами.

Даниел Кокотайло, който напусна OpenAI през 2024 година заради опасения, сходни на тези на Коксън, сподели, че продължава да се тревожи, че системите за ИИ напредват по-бързо, в сравнение с фирмите могат да управляват, и се опасява от екзистенциални сюжети като капацитета на AI да подтиква основаването на биологични оръжия, нуклеарна война или други произшествия.

„ Всички тези приказки в действителност са метод да се разсее и пренасочи тази политическа воля, която се е построила, вместо фактически да се канализира тази политическа воля, с цел да се направи нещо положително “, сподели Кокотайло, който в този момент управлява организация за отбрана на сигурността на AI и сподели, че е съветвал Коксън, преди да подаде оставка. „ Само, апелирам, не правете това, което ще убие всички ни. “

___

Авторът на AP Джош Боак от Вашингтон способства за този отчет.