Хакването с изкуствен интелект ще бъде по-често срещано, ако не бъдат направени промени, предупреждават учени

Десетки канадски учени са измежду интернационална група учени, призоваващи за по-добри ограничения за ограничение на моделите на изкуствен интелект.

„ Множество организации разкриха съществени пропуски в сигурността: техните AI модели заобиколиха незадоволително предпазени среди, с цел да компрометират системите на външни организации “, споделят те в отворено писмо.

В писмото, оповестено във вторник, се споделя, че в случай че се вършат незабавни промени в метода на създаване и внедряване на AI, „ такива произшествия ще продължат да се случват и бъдещите произшествия ще бъдат доста по-вредни за нашата открита сериозна инфраструктура. “

Те споделят, че има потребност от повече проучвания на сигурността на AI, както и акцент върху технологиите и процедурите за ограничение. Учените също желаят да видят интернационален орган, който стандартизира най-хубавите практики.

„ В кратковременен проект би трябвало да се употребяват мощни механизми за пясъчна среда, в това число airgapping (изключване от интернет), с цел да се обезпечи ограничение с висока степен на сигурност на киберспособни AI модели “, се споделя в писмото.

Канадските подписали писмото включват пионерите на AI Йошуа Бенгио и Джефри Хинтън, както и Nicolas Papernot и Catherine Régis, които управляват изследователската стратегия в Канадския институт за сигурност на изкуствения разсъдък. Професорът от университета Джон Хопкинс Джилиан Хадфийлд, която неотдавна беше назначена в новия съвещателен съвет за изкуствен интелект на министър-председателя Марк Карни, също е в листата. alt= " Получавайте изключителни вести от Канада, доставени във входящата ви кутия, тъй че да не пропуснете настояща история. " >

Получавайте изключителни национални вести

Докладите за лъжливи AI сътрудници спомогнаха за подхранването на необятно публикувана социална паника по отношение на сигурността на AI. OpenAI разкри през лятото, че неговите AI сътрудници са хакнали AI стартъпа Hugging Face, без да бъдат инструктирани от никой човек да го създадат.

Това беше последвано от други разкрития. Anthropic сподели, че нейните модели на изкуствен интелект са хакнали три други организации по време на тестване. Meta разкри, че един от нейните AI модели е влезнал в интернет самичък и е хакнал друга компания. И Гугъл удостовери, че неговият модел Gemini AI е хакнал три компании като част от тест на опциите му за киберсигурност.

Базирана в Сан Франциско лаборатория, която следи активността на AI, сподели в отчет от 30 септември, че уебсайтът на Library and Archives Canada е бил една от задачите на несполучлив опит за хакване от сътрудник с изкуствен интелект.

Министър на изкуствения разсъдък Евън Соломон сподели през септември, че е приказвал с интернационалните си сътрудници в G7 за основаването на „ ръб за софтуерна непоклатимост “, който да прави оценка моделите на AI за тестване.