Най-големите технологични компании за изкуствен интелект в света се сблъскват с Обединеното кралство за тестове за безопасност

Най-големите компании за изкуствен интелект в света упорстват държавното управление на Обединеното кралство да форсира своите проби за сигурност за системите за изкуствен интелект в конфликт по отношение на желанието на Англия да поеме водеща роля в контролиране на бързо разрастващата се технология.

OpenAI, Гугъл DeepMind, Microsoft и Meta са измежду софтуерните групи, които подписаха доброволни задължения през ноември да отворят своите най-нови генеративни AI модели за обзор от новия английски институт за сигурност на AI. По това време фирмите дадоха обещание, че ще поправят моделите си, в случай че институтът открие пропуски в технологията.

Според голям брой хора, осведомени с процеса, фирмите за изкуствен интелект търсят изясненост по отношение на тестванията, които AISI организира, какъв брой време ще им отнеме и какъв е процесът на противоположна връзка, в случай че бъдат открити някакви опасности.

Хора, близки до софтуерните компании, споделиха, че не са законово задължени да трансформират или забавят стартирането на своите артикули въз основа на резултатите от AISI's проби за сигурност.

Въпреки това, обява в LinkedIn от Иън Хогарт, ръководител на AISI, в понеделник сподели: „ Компаниите се съгласиха, че държавните управления би трябвало да тестват своите модели, преди да бъдат пуснати: Институтът за сигурност на ИИ ползва това на процедура. ”

„ Тестването на модели към този момент е в ход в тясно съдействие с разработчиците, ” сподели държавното управление на Обединеното кралство пред Financial Times. „ Ние приветстваме непрекъснатия достъп до най-способните AI модели за тестване преди внедряване – едно от основните съглашения, които фирмите подписаха на срещата на върха за сигурността на AI “, която се организира през ноември в Bletchley Park.

“ Ще споделим констатациите с разработчиците, в случай че е подходящо. Въпреки това, когато се открият опасности, бихме очаквали те да подхващат съответните дейности преди стартирането. “

Спорът с софтуерните компании разкрива рестриктивните мерки на разчитането на доброволни съглашения за установяване на параметрите на бързо разрастващите се технологии развиване. Във вторник държавното управление очерта нуждата от „ бъдещи наложителни условия “ за водещите разработчици на AI, с цел да се подсигурява, че те носят отговорност за поддържането на системите безвредни.

Подкрепяният от държавното управление институт за сигурност на AI е ключът към упоритостта на министър-председателя Риши Сунак за Обединеното кралство да има централна роля в оправянето с екзистенциалните опасности, произлизащи от възхода на ИИ, като потреблението на технологията при увреждащи хакерски атаки или планиране на биологични оръжия.

Според хора с директни знания по въпроса, AISI стартира да тества съществуващи AI модели и има достъп до към момента неиздадени модели, в това число Gemini Ultra на Гугъл.

Тестването се концентрира върху рисковете, свързани със злоупотребата с AI, в това число киберсигурността, като се опира на експертен опит от Национален център за киберсигурност в щаба на държавните връзки (GCHQ), сподели един човек.

Наскоро оповестени държавни контракти демонстрират, че AISI е похарчил £1 милион за обезпечаване на благоприятни условия за тестване за „ джейлбрейк “, което значи формулирането на подкани за коаксиалност AI chatbots за заобикаляне на техните защитни огради и „ фишинг “, когато лица и организации са ориентирани, нормално посредством имейл, за кражба на сензитивна информация или разпространяване на злотворен програмен продукт.

Друг контракт е обвързван с създаването на „ противоположен инженеринг “ автоматизация “, процесът, посредством който изходният код се разгражда по автоматизиран метод, с цел да се разпознава неговата функционалност, конструкция и дизайн.

„ Институтът за сигурност на ИИ на Обединеното кралство има достъп до някои от нашите най-способни модели за проучване и задачите на сигурността, с цел да изградим експертни знания и качества в дълготраен проект “, сподели Гугъл DeepMind.

„ Ние ценим съдействието си с института и работим интензивно дружно за създаване на по-стабилни оценки за AI модели, както и да търсим консенсус по отношение на най-хубавите практики с напредването на бранша. ”

OpenAI и Meta отхвърлиха коментар.