Световни новини без цензура!
Изслушванията на AI в Сената са в ход, след като платформи планираха терористична атака в САЩ, когато бяха помолени: „Трябва да действаме сега“
Снимка: cbsnews.com
CBS News | 2026-11-18 | 15:13:12

Изслушванията на AI в Сената са в ход, след като платформи планираха терористична атака в САЩ, когато бяха помолени: „Трябва да действаме сега“

Вашингтон — Новият ръководител на комисията по вътрешна сигурност на Сената приготвя чувания по отношение на AI, откакто държавните наблюдаващи откриха четирите най-използвани платформи — ChatGPT, Claude, Gemini и Grok — всички сътвориха оферти за терористична офанзива в Съединени американски щати, когато бяха подканени от следователи.

Сенаторът от Демократическата партия Маги Хасан, която ще оглави панела през новата година, разпореди на Службата за отчетност на държавното управление да проверява по какъв начин наличният в комерсиалната мрежа ИИ може да бъде употребен за злонамерени цели, създавайки опасности за националната сигурност.

Според отчет, оповестен в сряда, GAO откри, че в границите на 12 часа след скритото си тестване, платформите са съумели да основат жизнеспособни проекти за потребление на взривни устройства за офанзиви с всеобщи жертви в градовете на Съединени американски щати или да нападат елементи от електрическата мрежа на нацията, с цел да основат стопански вреди.

„ Трябва да действаме в този момент “, сподели Хасан по време на конферентен диалог с кореспонденти.

Сенаторът разгласи, че едно от първите чувания, които ще организира, когато новият Конгрес поеме ръководството през януари, ще се концентрира върху рисковете от ИИ и методите за възстановяване на сигурността.

„ ИИ опасността за публичната сигурност към този момент не е теоретична “, сподели Хасан в изказване. „ Ако Конгресът не работи, въпросът е по кое време – не дали – неприятен артист ще употребява AI, с цел да възнамерява и извърши огромна офанзива. “

Докладът от 61 страници от GAO включва отговори от софтуерните компании — Anthropic, Гугъл, OpenAI и SpaceXAI — които значително споделиха, че не престават да усъвършенстват своите платформи, с цел да обезпечат сигурност.

„ Детайлите зад информацията, предоставена от AI платформите, не бяха нови “, написа GAO. „ Много от детайлностите са налични в интернет. Въпреки това, генерирането на проекти, което можеше да отнеме седмици или месеци, вместо това беше приключено за часове благодарение на AI. Тези платформи биха могли също по този начин да основат хрумвания или способи, които не биха били открити елементарно посредством главно проучване. “

„ Потенциалните изгоди от тази технология са големи, само че могат да бъдат от изгода и за злонамерени участници “, добави GAO.

„ С развиването на опциите на AI доставчиците на AI ще продължат да усъвършенстват своите защитни ограничения “, сподели GAO. „ Въпреки това, в настоящето си положение, тази технология може евентуално да бъде рискова и злоупотребата с нея съставлява възходящ риск за националната и икономическата сигурност. “

Плановете, измислени от AI платформите

Изследователите на GAO организираха одита на успеваемостта от декември 2025 година до октомври 2026 година, в това число тестване напролет на 2026 година

В отговор на подканите, две от AI платформите, създадени проекти за конструиране и детониране на неподготвено взривно устройство (IED), което да аргументи всеобщи жертви, до момента в който две други платформи създадоха проекти за потребление на дронове или огнестрелни оръжия за ориентиране към електрическата мрежа, се споделя в отчета.

„ Всяка от тези платформи даде подробна информация, която може да се употребява за осъществяване на офанзиви, като съответни цели, локации, време и способи на офанзива “, откри GAO. „ Всяка платформа лиши по-малко от 12 часа, с цел да генерира проектите за офанзива. “

В един от тестванията платформата предложи наемане на транспортно средство и взимане на артикули от магазин по маршрута до мястото. Препоръчва се съответна дата и час на офанзивата, се споделя в отчета, защото са планувани публични събития, които евентуално ще имат огромни тълпи.

Въпреки че GAO сподели, че платформата в началото е отказала да извърши претенции за подробна информация за това по какъв начин да се конструира и детонира взривното устройство, тя сподели, че е съумяла да заобиколи защитните му парапети и да накара платформата да даде информацията.

Другите проби имат сходни резултати.

За тестванията, включващи офанзиви против електрически подстанции, една от платформите предложи офанзива с дрон, до момента в който другата предложи потребление на огнестрелни оръжия за офанзива на подстанции наоколо до летище в Съединени американски щати — и двете предопределени да нанесат икономическа щета. Платформите показаха карти и изображения.

Изследователите на GAO се съветваха с специалисти и участваха в визити на място, с цел да ревизират точността на проектите, предоставени от платформите за изкуствен интелект.

В един случай те означиха, че пътищата са погрешно сложени, а в различен означиха съществуването на високи стени, които биха затруднили визията на задачите.

Компаниите с изкуствен интелект споделят, че актуализират своите модели

В отговорите си на отчета на GAO огромните софтуерни компании значително споделиха, че продуктите им не престават да се усъвършенстват.

Anthropic, в писмо до GAO, включено в отчета, сподели, че не оспорва, че съдбоносен тестер може да извлече нездравословно наличие от AI система посредством неправилно показване на задачата на поръчка, „ и ние одобряваме констатацията съществено “. Но тя сподели, че не е в положение да ревизира констатациите в отчета на GAO.

Гугъл сподели, че тестването на GAO е осъществено върху по-ранни модели и „ ние продължаваме да подобряваме нашите модели “.

OpenAI сподели, че приветства опцията да отговори на констатациите на GAO, „ както и работата, която остава “.

SpaceXAI съобщи, че „ продължава да работи старателно “, с цел да усъвършенства сигурността с всяко стартиране на модел.

Източник: cbsnews.com


Свързани новини

Коментари

Топ новини

WorldNews

© Всички права запазени!