Моделът „Claude Mythos“ на Anthropic предизвиква страх от края на света на AI, ако бъде пуснат публично: „Оръжия, които дори не можем да си представим“

Превключете сред изданията в CA и NY тук.

Anthropic провокира паника, рекламирайки ужасяващите благоприятни условия на „ Claude Mythos “ – ръководителите предизвестяват, че новият модел на изкуствен интелект е толкоз рисков, че ще провокира вълна от пагубни хакове и терористични офанзиви, в случай че бъде пуснат на необятната аудитория.

В призрачен разбор самият Anthropic разкри, че Mythos – в случай че попадне в неверни ръце – може елементарно да употребява сериозна инфраструктура като електрически мрежи, електроцентрали и лечебни заведения. Моделът към този момент е „ разкрил хиляди уязвимости с висока степен на съвестност, в това число някои във всяка огромна операционна система и уеб браузър “, съгласно компанията за изкуствен интелект.

Вместо необятно разпространяване, Anthropic, управителен от основния изпълнителен шеф Дарио Амодей, разкри „ Project Glasswing “, проект за даване на модела на подбрана група от към 40 компании, в това число Amazon, Гугъл, Apple, Nvidia, CrowdStrike и JPMorgan Chase, които ще получат ранен достъп до Mythos, с цел да могат да го употребяват за намиране и поправяне на пропуски в сигурността.

Внедряването единствено за корпоративни клиенти евентуално е най-хубавият вероятен метод на Anthropic да „ даде на момчетата да закърпят дупките, само че не и на хакерите, които ще открият още дупки “, сподели Роман Ямполски, откривател по сигурността на изкуствения разсъдък в Университета на Луисвил, пред The Post.

„ Най-вероятно, несъмнено, ще има някакъв тип приключване “, сподели той. " Всяко равнище на ограничаване е за предпочитане пред цялостен отворен достъп. В идеалния случай бих желал да видя това да не се създава преди всичко. И не е като да спрат.

Разгледайте повече