Опасна повратна точка? Твърденията за хакерство с изкуствен интелект предизвикват дебат за киберсигурността

Тревожен вододел за изкуствения разсъдък или пресилена опасност?

Неотдавнашното известие на започващата компания за изкуствен интелект Anthropic, че е разкрила първата в света хакерска акция, ръководена от изкуствен интелект, провокира голям брой реакции от специалисти по киберсигурност.

Препоръчани истории

Докато някои наблюдаващи подвигнаха паника за от дълго време опасяваното настъпване на рискова инфлексна точка, други посрещнаха изказванията със песимизъм, потвърждавайки, че акаунтът на стартъпа пропуща значими детайлности и повдига повече въпроси, в сравнение с отговори.

В отчет от петък Anthropic сподели, че неговият помощник Клод Код е бил манипулирани да извършат 80-90 % от „ огромна “ и „ високо комплицирана “ хакерска атака, като човешка интервенция се изисква „ единствено спорадично “.

Anthropic, основателят на известния чатбот Claude, сподели, че офанзивата е имала за цел да проникне в държавни организации, финансови институции, софтуерни компании и компании за произвеждане на химикали, макар че интервенцията е била сполучлива единствено в дребен брой случаи.

Базираната в Сан Франциско компания, която приписа офанзивата на китайски държавно спонсорирани хакери, не посочи по какъв начин е разкрила интервенцията, нито разпознава „ почти “ 30-те субекта, които съгласно нея са били ориентирани.

Роман В Ямполски, специалист по изкуствен интелект и киберсигурност в университета в Луисвил, сподели, че няма подозрение, че хакването с изкуствен интелект съставлява сериозна опасност, макар че беше мъчно да се ревизират точните детайлности за акаунта на Anthropic.

„ Съвременните модели могат да пишат и приспособяват експлойт код, да пресяват големи размери откраднати данни и да провеждат принадлежности по-бързо и по-евтино от човешките екипи “, сподели Ямполски пред Al Jazeera.

„ Те понижават бариерата за умения за нахлуване и усилват мащаба, в който могат да работят артисти с положителни запаси. Ние сме дейно поставяйки младши екип за кибероперации в облака, наемащ се на час. “

Ямполски сподели, че чака AI да усили както честотата, по този начин и тежестта на офанзивите.

Хайме Севиля, шеф на Epoch AI, сподели, че не вижда доста ново в отчета на Anthropic, само че предишният опит диктува, че офанзивите благодарение на AI са осъществими и има възможност да стават все по-чести. постоянно.

„ Това евентуално ще удари най-тежко междинния бизнес и държавните организации “, сподели Севиля пред Al Jazeera.

„ Исторически видяно, те не са били задоволително скъпи цели за специфични акции и постоянно са били незадоволително вложени в киберсигурността, само че AI ги прави печеливши цели. Очаквам доста от тези организации да се приспособяват, като наемат експерти по киберсигурност, започват стратегии за заплащане за уязвимости и потребление на AI за вътрешно разкриване и промяна на слабостите. “

Въпреки че доста анализатори показаха желанието си за повече информация от Anthropic, някои отхвърлиха изказванията му.

След като сенаторът от Съединените щати Крис Мърфи предизвести, че офанзивите, водени от изкуствен интелект, ще ни „ унищожат “, в случай че регулирането не се трансформира в приоритет, основният академик на Meta AI Ян ЛеКун извика законодателя, че е „ изигран “ от компания търсят регулаторно хващане.

„ Те плашат всички със съмнителни изследвания, тъй че моделите с отворен код да бъдат контролирани, с цел да не съществуват “, сподели LeCun в обява на X.

Anthropic не отговори на искане за коментар.

Говорител на китайското посолство във Вашингтон, окръг Колумбия, сподели, че Китай „ поредно и уверено “ се опълчва на всички форми на хакерски атаки.

„ Надяваме се, че съответните страни ще възприемат професионално и отговорно отношение, базирайки характеризирането на киберинцидентите на задоволително доказателства, а не на неоснователни спекулации и обвинявания “, сподели Лиу Пенгу пред Al Jazeera.

Тоби Мъри, специалист по компютърна сигурност в университета в Мелбърн, сподели, че Anthropic има бизнес тласъци да подчертае както заплахите от сходни офанзиви, по този начин и способността си да противодейства тях.

" Някои хора сложиха под подозрение изказванията на Anthropic, които допускат, че нападателите са съумели да накарат Claude AI да извършва извънредно комплицирани задания с по-малко човешки надзор, в сравнение с нормално се изисква ", сподели Мъри пред Al Jazeera.

" За страдание, те не ни дават твърди доказателства, с цел да кажем тъкмо какви задания са били изпълнени или какъв контрол е бил обезпечен. Така че е мъчно да се реши еднопосочно или другото по тези изказвания. “

Все отново Мъри сподели, че не намира отчета за изключително неочакван, като се има поради какъв брой ефикасни са някои AI асистенти при задания като шифроване.

„ Не виждам хакване, задвижвано от AI, да промени типовете хакове, които ще се появят “, сподели той.

„ Въпреки това може да докара до смяна в мащаба. Трябва да чакаме да забележим повече хакове, задвижвани от AI в бъдеще и тези хакове да станат по-успешни. “

Въпреки че изкуственият разсъдък е надъхан да основава възходящи опасности за киберсигурността, той също ще бъде главен за подсилване на защитата, споделят анализаторите.

Фред Хейдинг, теоретичен помощник от Харвардския университет, който специализира в компютърната сигурност и сигурността на изкуствения разсъдък, сподели, че има вяра, че изкуственият разсъдък ще даде „ доста преимущество “ на експертите по киберсигурност в дълготраен проект термин.

" Днес доста кибероперации се попречват от дефицита на човешки киберпрофесионалисти. AI ще ни помогне да преодолеем това усложнение, като ни даде опция да тестваме всички наши системи в мащаб ", сподели Хейдинг пред Al Jazeera.

Хайдинг, който разказа сметката на Anthropic като необятно достоверна, само че " пресилена ", сподели, че огромната заплаха е, че хакерите ще имат прозорец на опция да вилнеят, до момента в който специалистите по сигурността се борят да наваксат своята употреба на все по-напредналия AI.

„ За страдание защитната общественост евентуално ще бъде прекомерно мудна, с цел да внедри новата технология в решения за автоматизирано тестване на сигурността и корекции “, сподели той.

„ Ако казусът е подобен, нападателите ще опустошат нашите системи с натискането на един бутон, преди отбраната ни да е имала време да я улови нагоре. ”