Nvidia казва, че новата й платформа OpenShell може да попречи на агентите с изкуствен интелект да станат измамници
NVIDIA сътвори нова платформа за сигурност, която производителят на чипове сподели, че може да попречи на сътрудниците с изкуствен интелект да станат измамници.
Компанията сподели в понеделник, че пуска новата система, наречена OpenShell, заради нуждата от „ самостоятелни контроли за сигурност “, откакто голям брой сътрудници на ИИ не се подчиниха на команди и проникнаха в други системи.
Съвсем неотдавна OpenAI съобщи в петък, че неговите AI сътрудници са взаимодействали с няколко уеб страницата на държавното управление на Съединени американски щати по непредвидени способи, разобличаване, което пристигна след няколко по-ранни лъжливи хакерски случая от други AI сътрудници.
Ръководителите на Nvidia споделиха на брифинг за медиите, че новата им система може да предотврати неотдавнашен случай, включващ рой OpenAI сътрудници, които самостоятелно хакнаха компанията за AI Hugging Лице. Нарастващите отчети за AI сътрудници, които без значение хакват компании и държавни организации, провокираха апели от водещи ръководители в промишлеността, в това число основен изпълнителен шеф на Anthropic Дарио Амодей, за закъснение на развиването на технологията.
„ От това, което знаем, тази нова платформа за сигурност можеше да спре пробива, в случай че беше употребена в гранични лаборатории за оценка на модели първоначално “, Джъстин Боитано, вицепрезидент на Nvidia за корпоративния AI, сподели на конференция на Понеделник, имайки поради фирмите в челните редици на AI.
Софтуерът на Nvidia разрешава на разработчиците „ публично да потвърдят, че даден сътрудник има задоволително пълномощия да прави работата си и не повече “, сподели Боитано.
Nvidia сподели, че повече от 100 организации употребяват платформата при стартирането й, в това число Accenture, JPMorgan Chase и Microsoft.
В обява в блог, написана от няколко инженери на Nvidia, оповестена в понеделник, компанията съпоставя създаването на AI до ранните дни на интернет, когато технологията разшири връзката, само че също по този начин отвори вратата за опасности за сигурността.
„ Интернет не беше изработен предпазен, като се изискваше уеб разработчиците да дават обещание да бъдат положителни. Стана безвредно, тъй като браузърът категорично спря да се доверява на кода в уеб страниците “, пишат инженерите.
OpenShell извършва AI сътрудници в " пясъчна кутия " или изолирано виртуално пространство, където се тестват AI стратегии, и трансформира техните указания в " проверяема политика ", пишат те. Операторите дефинират до кои файлове, принадлежности, мрежи, процеси и идентификационни данни сътрудниците имат достъп.
Платформата също по този начин включва обособен предпазен пласт, наименуван Sentry, който работи на чип, с цел да следи непрестанно активността на AI сътрудника и може да се „ намеси неотложно “, в случай че сътрудникът стартира да се пробва да надвиши задачата си, сподели компанията.
„ Той може да сложи под карантина недоверчив сътрудник за милисекунди “, сподели Боитано.
NvidiaArtificial Intelligence© 2026 CBS Interactive Inc. Всички права непокътнати.
Първо известно хакване от излъган AI сътрудник на държавен уеб страница
Представени политически вести Иранска война Последни резултати от NFL Колежански футболни ранглисти Следвайте ни в YouTubeFacebookInstagramX Политика за дискретност Политика за дискретност Известие за КалифорнияВашата дискретност Избор Условия за прилагане Декларация за дискретност на малолетни Още от CBS News Бюлетини Подкасти Изтеглете нашето приложение Марка Студио Карта на уеб страницата Компания За ParamountРекламирайте с ParamountПрисъединете се към нашата общественост на гении ПомощОбратна връзка Свържете се с омбудсманаАвторско право ©2026 CBS Interactive Inc. Всички права непокътнати.
Вижте CBS News InCBS News AppOpenChromeSafariПродължи
