Спорът в Пентагона засилва репутацията на Anthropic, но повдига въпроси относно готовността на AI във военните действия
Моралната позиция на Anthropic по отношение на потреблението на изкуствен интелект от армията на Съединени американски щати трансформира конкуренцията сред водещи компании за AI, само че също по този начин излага нескрито възходящото осъзнаване, че може би чатботовете просто не са задоволително способни за военни дейности.
Chatbot на Anthropic, Клод, за за първи път изпревари съперника си ChatGPT в изтеглянията на телефонни приложения в Съединените щати тази седмица, сигнал за възходящ интерес от страна на потребителите, които са на страната на Anthropic в опълчването му с Пентагона, съгласно компанията за пазарни изследвания Sensor Tower.
Администрацията на Тръмп в петък подреди на държавните организации да спрат да употребяват Claude и го дефинира като риск за веригата за доставки, откакто основният изпълнителен шеф на Anthropic Дарио Амодей отхвърли да промени етичните защитни ограничения на своята компания, предотвратяващи използването на технологията към самостоятелни оръжия и домашно всеобщо наблюдаване. Anthropic съобщи, че ще оспори Пентагона в съда, откакто получи публично уведомление за наказванията.
И до момента в който доста военни специалисти и специалисти по правата на индивида приветстваха Amodei за това, че отстоява етичните правила, някои също са разочаровани от годините на маркетинг на AI промишлеността, който убеди държавното управление да приложи технологията за задания с високи залози.
„ Той аргументи тази неразбория “, сподели Миси Къмингс, някогашен военен водач от Военноморски сили, която в този момент управлява центъра за роботика и автоматизация в университета „ Джордж Мейсън “. " Те бяха компания номер 1, която прокара неуместна реклама върху опциите на тези технологии. И в този момент, внезапно, те желаят да бъдат същински. Те желаят да кажат на хората, " О, чакайте малко. Ние в действителност не би трябвало да използваме тези технологии в оръжията.' "
Anthropic не отговори незабавно на искане за коментар. Министерството на защитата отхвърли да разяснява дали към момента употребява Claude, в това число във войната в Иран, базирайки се на оперативната сигурност.
Къмингс разгласява отчет на водеща конференция за ИИ през декември, в който се твърди, че държавните организации би трябвало да забранят потреблението на генеративен ИИ „ за надзор, ориентиране, ориентиране или ръководство на всяко оръжие “. Не тъй като AI е толкоз интелигентен, че може да стане лъжец, а тъй като огромните езикови модели зад чатботове като Claude вършат прекалено много неточности – наречени халюцинации или конфабулации – и са „ по своята същина ненадеждни и несъответствуващи в среди, които могат да доведат до загуба на живот. “
„ Ще убиете невоюващи лица “, сподели Къмингс във вторник в изявление за Асошиейтед прес. " Вие ще убиете личните си войски. Не ми е ясно дали военните в действителност схващат рестриктивните мерки. "
Amodei се опита да подчертае тези ограничавания в отбраната на етичната позиция на Anthropic предходната седмица, като твърди, че " граничните AI системи просто не са задоволително надеждни, с цел да зареждат изцяло самостоятелни оръжия. Ние няма да предоставим умишлено артикул, който излага на риск американските бойци и цивилни. "
Anthropic до неотдавна беше единственият от сътрудниците си, който имаше утвърждение за потребление в класифицирани военни системи, където си партнира с компанията за разбор на данни Palantir и други реализатори на защитата. Президентът Доналд Тръмп сподели в петък, почти по същото време, когато одобряваше съботните военни удари против Иран, че Пентагонът ще разполага с шест месеца, с цел да приключи последователно военните приложения на Anthropic.
Къмингс, някогашен консултант на Palantir, сподели, че е допустимо Клод към този момент да е бил употребен за обмисляне на военни удари.
„ Просто се надявам главно да има хора в примката “, сподели тя. " Човек би трябвало да се грижи за тези технологии доста деликатно. Можете да ги употребявате, с цел да вършиме тези неща, само че би трябвало да проверявате, проверявате, проверявате. "
Тя сподели, че това е контрастност със известията от фирмите за изкуствен интелект, които допускат, че тяхната технология се развива до точката, в която е „ съвсем рационална “.
„ Ако тук има виновност, бих споделил, че половината е на Anthropic за стимулиране на шума, а половината е по виновност на Министерството на войната за уволнението на всички хора, които другояче биха ги посъветвали да не употребяват глупави технологии “, сподели Къмингс.
Един коментатор в обществените медии тази седмица разказа държавните проблеми на Anthropic като „ Данък върху рекламите “ – известие, което беше оповестено наново от основния консултант на президента Доналд Тръмп по изкуствен интелект, Дейвид Сакс, чест критик на компанията.
И макар че провокира правни проблеми, които биха могли да застрашат бизнес партньорствата на Anthropic с други военни реализатори, тя също по този начин укрепи репутацията си на разработчик на изкуствен интелект с грижа за сигурността.
„ Похвално е, че една компания се изправи против държавното управление, с цел да резервира това, което усещаше, че е нейната нравственос и беше неин бизнес избор, даже в лицето на тези евентуално осакатяващи политически реакции “, сподели Дженифър Хъдълстън, старши теоретичен помощник в либертарианския Cato Institute.
Потребителите към този момент се изрекоха, което докара до скок на изтеглянията на Claude, което го направи най-популярното приложение за iPhone от събота и за всички телефонни системи в Съединени американски щати в понеделник, съгласно Sensor Tower. Това е за сметка на ChatGPT на OpenAI, чиято потребителска известност беше накърнена, когато разгласи петъчна договорка с Пентагона за ефикасна подмяна на Anthropic с ChatGPT в класифицирани среди.
В магазина на Apple броят на рецензиите с 1 звезда — най-лошата оценка — на ChatGPT набъбна със 775% в събота и продължи да пораства при започване на тази седмица, принуждавайки OpenAI да предприеме надзор на вредите.
„ Не трябваше да бързаме да издаваме това в петък “, сподели изпълнителният шеф на OpenAI Сам Алтман в обява в обществените медии в понеделник. " Проблемите са супер комплицирани и изискват ясна връзка. Наистина се опитвахме да понижим ескалацията на нещата и да избегнем доста по-лош резултат, само че мисля, че просто изглеждаше опортюнистично и повърхностно. "
Алтман планираше да събере чиновници за среща с " всички ръце " във вторник, с цел да обсъдят идващите стъпки.
" Има доста неща, за които технологията просто не е подготвена, и доста области, които към момента не разбираме взаимни отстъпки, нужни за сигурността “, сподели Алтман. „ Ще работим по тях постепенно, с (Пентагона), с механически защитни ограничения и други способи. “
