AI не е най-големият проблем за киберсигурността. Хората са

Виж всички тематики Връзката е копирана! Следвайте <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsj8f76q00003b6rx9hyr3bw@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Случаи на изкуствен интелект, който бяга от лабораторията, прониква в други компании и се пробва да измами хората, станаха заглавия през последните седмици. А в един случай AI моделите даже работиха дружно, с цел да се освободят от своите тестови среди.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsj8f76q00013b6r0fvo7uek@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Това значи ли, че машините поемат? Не напълно.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsj8f76r00023b6rmm7ilz4p@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > AI не е мозъкът зад най-разпространените днешни киберзаплахи; това са хора, които могат да употребяват AI незаконно – и за подли цели. AI е дал на неприятните артисти голяма мощ, позволявайки им да основават злоумишлен програмен продукт, да изследват цели, да основават безапелационни схеми и да автоматизират офанзиви с невиждано движение.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsj8f76r00033b6repn632a1@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Всяко четвърто нарушаване на сигурността на данните е било провокирано от AI от февруари 2025 година до март 2026 година Според отчет на IBM. А американците са изгубили повече от 893 милиона $ от измами, свързани с ИИ предходната година, споделя ФБР.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsj8f76r00043b6rq1a1mj1p@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Но специалистите споделят, че участниците в заканите от действителния свят – т.е. хората – към момента са тези, които дърпат конците. AI сътрудниците единствено са увековечили съществуващите способи за офанзива, като фишинг и измами със злотворен програмен продукт, вместо да основават напълно нови.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsj8f76r00053b6rgg2glbsg@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Трябва да внимаваме за хората “, сподели Орен Ециони, почетен професор във Вашингтонския университет и някогашен основен изпълнителен шеф на Института Алън за изкуствен интелект. „ AI е единствено инструментът. “

AI става измамник

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsj8f76r00073b6r0v8mxy1m@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Някои скорошни произшествия демонстрираха на какво е кадърен AI в действителния свят, а освен на доктрина, разпалвайки страхове дали технологията напредва прекомерно бързо.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsj8f76r00093b6ru4qtf10y@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Тези нарушавания също по този начин демонстрират какъв брой непредсказуем може да бъде изкуственият разсъдък при интерпретирането на указания. Моделите на OpenAI, да вземем за пример, се опитваха да преминат тест за киберсигурност, когато излязоха от тестовата си среда и нарушиха друга компания, макар че не им беше казано да го създадат.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsj8f76r000a3b6rcex0dnl4@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Патрик Фюсел, световен началник на симулацията на съперник в IBM, съпостави AI с джин.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsj8f76r000b3b6r7yxgzn0l@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Искате да му зададете предпочитание, само че би трябвало да сте доста, доста съответни по отношение на детайлностите на вашето предпочитание “, сподели той пред CNN. " Или може да се обърка. "

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsj8f76r000c3b6r2807sn1j@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Но тези случаи също се случиха при доста характерни условия.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsj8f76r000d3b6rer353ez9@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > OpenAI изключи рестриктивните мерки, които биха попречили на неговия модел да „ преследва високорискова кибернетична активност “. Anthropic организира своите проби без общоприетите гаранции за сигурност в модели, които нормално са налични за обществеността. Институтът за сигурност на изкуствения разсъдък също изключи избрани принадлежности, които биха могли да „ понижат обсега “ на това, на което са способни моделите.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsj8f76r000e3b6ryidpu9pq@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Изследователите нормално вършат това, с цел да оценят изцяло опциите на модела.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsj8f76r000f3b6rpr1p8wgn@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > " Не можах да вляза в ChatGPT или Claude или нещо сходно и то инцидентно проникна във ФБР. Това няма да се случи ", сподели Адам Майерс, началник на контрапротивническите интервенции във компанията за киберсигурност CrowdStrike. „ Така че това, което виждаме, е, че те се вършат в характерни тестови условия, при които те следят, с цел да видят „ Това нещо прави ли нещо, което не се чака да направи? “

Как хакерите употребяват AI

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsj8f76r000h3b6rtrgypkuy@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > AI не работи самостоятелно, с цел да предложи нови офанзиви, споделят специалисти. Вместо това, той оказва помощ на киберпрестъпниците да ползват съществуващите техники доста по-бързо, като в същото време са по-ефективни и ефикасни.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsj8f76r000i3b6r19np1xjk@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Това може да включва неща като потребление на AI за анализиране на уеб страницата на компанията, с цел да разберете към кого да се насочите или внедряване на AI сътрудник, който да води първични договаряния с жертва на кибер изнудване. AI сътрудниците могат да имитират човешки диалози както посредством текст, по този начин и посредством характерни гласове. Хакери с малко опит към този момент могат да употребяват изкуствения разсъдък, с цел да осъществят усъвършенствани схеми.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsj8f76r000j3b6rvukqeyn2@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Те употребяват (AI), с цел да подобрят методологията за хакерска атака, всъщност във всички разнообразни стадии, само че към момента се ръководи от индивида “, сподели Джуд Дреслер, началник на центъра за рискови интервенции в киберзастрахователната компания Resilience.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsj8f76r000k3b6rr9fidbrx@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Според Майерс неприятните артисти небрежно събираха съществени скриптове – указания за автоматизиране на задания – с цел да реализиран задачите си. Но в този момент те са в положение да създават по-висококачествена работа, която наподобява, че би лишила три пъти повече време за произвеждане.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsj8f76r000l3b6rc7x3ttda@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Те също по този начин употребяват AI за работа зад кулисите, като генериране на нужната инфраструктура за слагане на злонамерени уеб страници.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsj8f76r000m3b6rxj5dlwdn@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ С AI те можеха да автоматизират това създаване и по този начин разноските за възобновяване станаха доста дребни и това трансформира играта “, сподели Роб Лефертс, корпоративен вицепрезидент по отбраната от закани в Microsoft.

Източник: cnn.com