Най-новият AI модел на Anthropic може да позволи на хакерите да извършват атаки по-бързо от всякога. Той иска първо компаниите да поставят защити

Вижте всички тематики Връзката е копирана! Следвайте

Anthropic ще даде новия си AI модел на някои от най-големите международни компании за киберсигурност и програмен продукт в опит да забави конкуренцията във въоръжаването, разпалена от AI в ръцете на хакери, сподели Anthropic във вторник.

Amazon, Apple, Cisco, Гугъл, JPMorgan Chase и Microsoft, наред с други компании, към този момент ще имат достъп до модела Mythos на Anthropic за задачите на киберотбраната. Това включва намиране на неточности в софтуера на тези компании и тестване дали характерни хакерски техники работят върху техните артикули.

Mythos (официално наименуван „ Claude Mythos Preview “) не е подготвен за обществено стартиране заради методите, по които може да бъде злоупотребяван от киберпрестъпници и шпиони, съгласно Anthropic – вероятност, която провокира необятно безпокойствие във Вашингтон и в Силиконовата котловина.

Експерти споделиха пред CNN, че скоростта и мащабът на сътрудниците с ИИ, които търсят уязвимости, надалеч надхвърлящи естествените човешки качества, съставляват коренна смяна в киберсигурността. Един-единствен AI сътрудник може да сканира за уязвимости и евентуално да се възползва от тях по-бързо и по-упорито от стотици човешки хакери.

„ Не се чувствахме удобно да пуснем това като цяло “, сподели пред CNN Логан Греъм, който управлява екипа на Anthropic за отбраната на своите AI модели. „ Смятаме, че би трябвало да се извърви дълъг път, с цел да имаме подобаващите защитни ограничения. “

Anthropic също по този начин е уведомил висши чиновници на Съединени американски щати „ от цялото държавно управление на Съединени американски щати “ за цялостните нападателни и защитни кибер качества на Mythos, сподели чиновник на Anthropic пред CNN. Фирмата също по този начин „ се даде, с цел да поддържа личното тестване и оценка на технологията от държавното управление “, сподели служителят.

Ръководителите на Anthropic се надяват, че определеното издание на Mythos за компании, които обслужват милиарди консуматори, ще помогне за равнене на игралното поле с нападателите. Целта е да се отстранят огромни пропуски в сигурността на необятно употребяваните интернет браузъри и операционни системи, преди те да бъдат оповестени обществено.

Други компании или организации, които Anthropic сподели, че ще имат достъп до Mythos, включват производителите на чипове Broadcom и Nvidia, Linux Foundation с нестопанска цел, която поддържа известната операционна система Linux, която зарежда доста телефони и суперкомпютри, и доставчиците на киберсигурност CrowdStrike и Palo Alto Networks.

„ Ако моделите ще бъдат толкоз положителни – и евентуално доста по-добри от това – при всички задания за киберсигурност, би трябвало да се подготвим много бързо “, сподели Греъм пред CNN. „ Сега светът е доста друг, в случай че тези модели на качества ще участват в живота ни. “

Публикация в блог, визуализираща опциите на Mythos, която изтече предишния месец, твърди, че AI моделът е „ надалеч по-напред “ от кибер опциите на други модели. Mythos „ предвещава идна вълна от модели, които могат да употребяват уязвимостите по способи, които надалеч изпреварват напъните на бранителите “, се споделя в обявата в блога, която Fortune първо заяви.

Някои от терзанията към това по какъв начин Mythos може да бъде злоупотребяван от неприятни артисти бяха пресилени, споделиха специалисти по-рано пред CNN. Но приключването също по този начин сочи неуместна истина, споделиха тези източници: Ако не се промени курсът, пропастта сред нападателите и бранителите, задействани от AI, може да се разшири в допълнение.

Anthropic твърди, че Mythos към този момент е дал впечатляващи резултати. През последните седмици моделът откри " хиляди " незнайни до момента софтуерни уязвимости - %, който надалеч изпреварва човешките откриватели, сподели компанията. CNN не можа незабавно да ревизира тази цифра.

Откриването на сходни софтуерни дефекти може да бъде трудоемко за човешките откриватели и са мечтани от шпионските организации и киберпрестъпниците за осъществяване на скрити хакове.

Но специалистите по киберсигурност са употребявали AI за отбрана против експлойти доста преди идването на Mythos. Gadi Evron и други откриватели на сигурността през декември пуснаха инструмент, основан на модела Claude на Anthropic, за генериране на корекции за съществени софтуерни уязвимости.

„ За разлика от нападателите, бранителите към момента не разполагат с AI благоприятни условия, които да ги форсират до същата степен “, сподели Evron, създател на компанията за сигурност на AI Knostic, пред CNN. „ Възможностите за офанзива обаче са налични както за нападателите, по този начин и за бранителите и бранителите би трябвало да ги употребяват, в случай че желаят да се оправят. “