Фирмата за изкуствен интелект Anthropic търси експерт по оръжия, за да спре потребителите от „злоупотреба“

Американската компания за изкуствен интелект (AI) Anthropic търси да наеме специалист по химически оръжия и високомощни експлозиви, с цел да се опита да предотврати „ пагубна корист “ със софтуера му.

С други думи, той се опасява, че неговите AI принадлежности може да кажат на някого по какъв начин да прави химически или радиоактивни оръжия и желае специалист, който да подсигурява, че защитните му парапети са задоволително здрави.

В LinkedIn служба за набиране на личен състав, компанията споделя, че претендентите би трябвало да имат най-малко пет години опит в „ отбрана от химически оръжия и/или експлозиви “, както и знания за „ устройства за радиологично разпространяване “ – известни също като мръсни бомби.

Фирмата сподели на BBC, че ролята е сходна на работни места в други чувствителни области, които към този момент е основала.

Anthropic не е единствената компания за изкуствен интелект, която приема тази тактика.

Подобна позиция е оповестена от разработчика на ChatGPT OpenAI. На своя уеб страница за кариери той изброява свободни работни места за откривател в „ биологични и химически опасности “ със заплата до $455 000 (£335 000), съвсем двойно по-голяма от предлаганата от Anthropic.

Но някои специалисти са разтревожени от рисковете на този метод, като предизвестяват, че той дава на инструментите за изкуствен интелект информация за оръжия - даже в случай че са били инструктирани да не го употребяват.

" Безопасно ли е в миналото да се употребяват AI системи за работа с сензитивна информация за химикали и експлозиви, в това число мръсни бомби и други радиологични оръжия? " сподели доктор Стефани Хеър, механически откривател и съ-водещ на телевизионната стратегия AI Decoded на BBC.

" Няма интернационален контракт или друга регулация за този вид работа и потреблението на AI с тези типове оръжия. Всичко това се случва отвън полезрението. "

Индустрията на ИИ непрестанно предизвестява за евентуалните екзистенциални закани, подбудени от нейните технологии, само че не е имало опит да се забави напредъкът й.

Въпросът закупи неотложност, защото държавното управление на Съединени американски щати се обажда на компании с ИИ, до момента в който стартира война в Иран и военни интервенции във Венецуела.

Anthropic подхваща правосъдни дейности против Министерството на защитата на Съединени американски щати, което го дефинира като риск за веригата за доставки, когато компанията настоя, че нейните системи не би трябвало да се употребяват нито в изцяло самостоятелни оръжия, нито в всеобщо наблюдаване на американци.

Съосновател на Anthropic Дарио Амодей написа през февруари, че към момента не счита, че технологията е задоволително добра и не би трябвало да се употребява за тези цели.

Белият дом сподели, че американската войска няма да се ръководи от софтуерни компании.

Етикетът за риск слага американската компания в същата лодка с китайската телекомуникационна компания Huawei, която беше в черния лист по сходен метод заради разнообразни опасения за националната сигурност.

OpenAI сподели, че е склонен с позицията на Anthropic, само че по-късно е договорил собствен личен контракт с държавното управление на Съединени американски щати, който съгласно него към момента не е почнал.

Асистентът на AI на Anthropic, наименуван Клод, към момента не е отстранен и сега към момента е вграден в системи, предоставени от Palantir и се внедрява от Съединени американски щати във войната сред Съединени американски щати и Израел и Иран.

Регистрирайте се за нашия бюлетин Tech Decoded, с цел да следите най-хубавите международни софтуерни истории и трендове. Извън Обединеното кралство? Регистрирайте се тук.