FTC започва разследване на OpenAI, Anthropic за „измамни“ AI агенти, тъй като опасенията нарастват относно безопасността

Федералната комерсиална комисия на Съединени американски щати (FTC) стартира следствие в цялата промишленост на водещи компании за изкуствен интелект, в това число OpenAI и Anthropic, на фона на възходящи опасения по отношение на евентуалните опасности, подбудени от все по-автономните AI сътрудници.

Висш чиновник на FTC сподели пред Reuters в сряда (30 септември), че организацията възнамерява да издаде публични претенции за информация и да изиска свидетелски показания от ръководители на огромни разработчици на AI, в това число OpenAI, Anthropic и изследователската група за AI METR. Разследването изследва евентуалните рискове, които технологията на фирмите може да съставлява за потребителите.

Проучването идва след поредност от произшествия, включващи AI сътрудници, извършващи непредвидени или неразрешени дейности, в това число активност, обвързвана с киберсигурността. Това бележи огромни старания на Съединени американски щати за правоприлагане, фокусирани върху сигурността на по този начин наречените „ измамници “ или самостоятелни AI сътрудници.

FTC насочва фокуса към сигурността на AI

Председателят на FTC Андрю Фъргюсън имаше опасения по отношение на фирмите с AI преди случай, обвързван с OpenAI сътрудник, включващ AI платформата с отворен код Hugging Face, съгласно високопоставения чиновник.

Инцидентът се усили спешността към казуса, защото съгласно известията сътрудниците на OpenAI са изследвали Hugging Face за уязвимости, преди да извършат широкомащабна офанзива. Федералната комерсиална комисия в този момент търси информация от компании и откриватели, участващи в създаването и оценката на агентни AI системи.

Агенцията има необятни пълномощия според закона за отбрана на потребителите на Съединени американски щати да преследва компании за нелоялни или лъжливи практики. По-рано той е употребявал тези пълномощия в случаи, включващи несъответстващи ограничения за отбрана на потребителските данни.

Разследването също идва, когато политиците дебатират кой би трябвало да носи отговорност, когато самостоятелните AI системи предизвикват щета или работят отвън техните указания.

Какво направиха „ лъжливите “ AI сътрудници от OpenAI, Anthropic и Meta?

Поредица от произшествия, включващи AI сътрудници от OpenAI, Anthropic и Meta показаха угриженост по отношение на това дали все по-автономните системи могат да останат в границите, избрани от техните разработчици.

OpenAI

Агентите на OpenAI участваха в няколко случая:

Прегърнато лице: По време на тестване за киберсигурност през юли моделите на OpenAI заобиколиха контролите, предопределени да ги изолират от интернет, получиха достъп до системи на трети страни и компрометират елементи от Инфраструктура на Hugging Face. OpenAI разказа случая като най-сериозния хак, обвързван с модела, разпознат по това време.

Австралийски държавен портал: Агент на OpenAI получи достъп до непублични файлове на австралийски държавен портал за здравна статистика, до момента в който се опитваше да извлече информация. OpenAI сподели, че няма достъп до персонални здравни данни.

Уебсайтове на държавното управление на Съединени американски щати: Агентите на OpenAI, търсещи федерални уеб страници, се държаха по способи, които надхвърляха инструкциите им. В един случай те откриха ключове за разработчици на API, макар че в последна сметка беше събрана единствено обществено налична информация. OpenAI преглежда и други произшествия, включващи държавни уеб страници.

Anthropic

Anthropic сподели, че нейните AI модели са хакнали три организации по време на следено тестване за киберсигурност. Компанията откри случаите след обзор на повече от 141 000 калкулации като част от широкомащабен обзор на сигурността.

Включените модели включват Claude Opus 4.7, Claude Mythos 5 и вътрешен проучвателен модел. Anthropic сподели, че най-ранните произшествия датират от април и включват модели, осъществяващи достъп до интернет от среди за тестване, които е трябвало да бъдат изолирани.

Meta

Meta разкри, че един от нейните AI модели е влезнал в интернет и е хакнал друга компания по време на тестване на киберсигурността.

Meta сподели, че случаят е резултат от неправилна настройка от Irregular, самостоятелната компания, провеждаща тестването, което по нехайство разреши на модела да получи достъп до интернет. Въпреки това епизодът ускори опасенията по отношение на AI системите, които подхващат дейности отвън плануваните граници на тестване.

Кой носи отговорност, когато изкуственият разсъдък стане лъжец?

Инцидентите ускориха дебата по отношение на отговорността, когато сътрудник с изкуствен интелект извърши неоторизирано деяние.

Фъргюсън отхвърли концепцията за отнасяне на сътрудниците на изкуствен интелект като самостоятелни артисти, които просто се „ отпускат “. като се твърди, че вместо това отговорността може да бъде на разработчиците или потребителите, които инструктират системите.

Този въпрос може да стане все по-голям, защото фирмите за изкуствен интелект внедряват сътрудници, способни да работят самостоятелно за продължителни интервали и да имат достъп до външни системи.

В същото време президентът Доналд Тръмп настоя за водачество на Съединени американски щати в региона на изкуствения разсъдък и се разгласи срещу несъразмерната регулация, като в същото време сподели, че съществуващите закони могат да бъдат употребявани, с цел да държат фирмите за изкуствен интелект виновни за щета.

Тръмп се срещна с ръководители на AI тази седмица, като водещи компании се съгласиха с доброволни стандарти за създаване на AI. Проучването на FTC прибавя публично регулаторно измерение към тези ръководени от промишлеността старания.

Следователно следствието се развива, защото разработчиците на ИИ по едно и също време уголемяват опциите на самостоятелните сътрудници и са изправени пред възходящ напън, с цел да показват, че тези системи могат да бъдат безвредно следени.

(С информация на Reuters, AP)