OpenAI казва, че фалшивите AI модели са се освободили от човешки контрол. Някои гледат на това като на „предупредителен изстрел“

Това е тип развиване, виждано в миналото единствено в научната фантастика: система с изкуствен интелект, подготвена да изследва цифрови уязвимости, се освобождава от човешкия надзор и работи сама, с цел да хакне друга компания.

Атаката, оповестена тази седмица от OpenAI, която упрекна лъжливи AI модели, акцентира невероятния напредък на технологията благоприятни условия. За мнозина това също добави неотложност към въпросите дали и по какъв начин може да бъде предотвратено причиняването на безпорядък в по-голям мащаб, с по-сериозни последствия.

В това, което OpenAI назова „ невиждан “ епизод, компанията сподели, че нейните усъвършенствани модели на ИИ са употребявали откраднати идентификационни данни, с цел да обхванат в сървърите на започващ ИИ. Започна в среда, която трябваше да бъде „ мощно изолирана “ среда за тестване, с понижени защитни огради, преди сътрудникът с изкуствен интелект да откри пътя си в интернет.

Но разкриването донесе миг, който трябваше да ви каже, за откривателите, които призоваваха за закъснение на развиването на изкуствения разсъдък и предупреждаваха от години, че технологията може да съставлява екзистенциални опасности за човечеството. След това специалистите приканиха за усъвършенствано тестване от фирмите за изкуствен интелект и повече разговор сред Съединени американски щати и Китай, с цел да се измислят споделени решения.

„ Мисля, че би трябвало да приемем това като сигнален удар, с цел да не ги създадем по-умни, и това евентуално ще изисква световно съдействие “, сподели Нейт Соарес, съавтор на книгата от 2025 година „ Ако някой го построи, всички Умира. “

Хакът може да окаже напън върху фирмите да подобрят ограничението

Ако модел може самичък да реши да направи нещо неетично, нелегално или нездравословно, какво – в случай че има нещо – могат да създадат хората, с цел да му попречат да го направи?

OpenAI сподели, че е упълномощил на участващите AI модели да преследват „ усъвършенствана употреба, употребявайки комплицирани пътища за офанзива “, с цел да тестват кибер качествата, само че технологията стигна до непредвидени дължини. Очевидно е решил самичък да се насочи към Hugging Face, прочут център за разработка на изкуствен интелект и пазар, с цел да получи информация, която му е нужна, с цел да извърши дадена задача.

Захра Тимса, съосновател и основен изпълнителен шеф на платформата за ръководство i-GENTIC AI, сподели, че чака случаят да усили натиска върху OpenAI и неговите съперници да завършат строги проби и да проучат по-задълбочено ограничението, преди да бъдат основани системите за изкуствен интелект налични за обществеността.

Наблюдението на държанието на сътрудника след обстоятелството, както OpenAI в този момент прави с следствието си, към този момент не е задоволително, сподели тя. " Все едно да имаш защитен колан, въздушни възглавници, спирачки, всичко в колата. Трябва да е там, преди колата да стартира да се движи ", сподели Тимса.

Разкриването идва на фона на нараснали опасения по отношение на опциите за киберсигурност на мощните модели. През юни президентът Доналд Тръмп подписа изпълнителна заповед, създаваща рамка за федералното държавно управление за инспекция на рисковете за националната сигурност на най-напредналите AI системи до един месец преди тяхното обществено стартиране.

Други специалисти виждат събитието като знак за възходящите проблеми на ИИ

Някои специалисти споделят, че хакването е част от тестът и грешката, която идва с подобряването на опциите за киберсигурност, и не е мотив за суматоха.

" Занимаваме се с хора, създаващи офанзиви за киберсигурност, откогато съществува интернет. И едно от забавните свойства на тези езикови модели е, че същите благоприятни условия, които ги вършат способни да правят офанзиви за киберсигурност, също им разрешават да вършат разбор на заканите за киберсигурността и да основават отбрани за киберсигурността ", сподели Джон Тикстън, помощник по компютърни науки в университета Корнел, който учи способи, които управлява държанието на AI моделите.

Разкритието повдигна песимизъм от тези, които споделят, че дава преимущество на OpenAI, с цел да направи технологията му да наподобява по-страшна. Като се има поради, че хората от OpenAI са решили да изключат някои защитни ограничения за теста, някои настояват, че резултатът не би трябвало да е извънредно неочакван.

Thickstun означи, че разкриването играе роля в потребността на OpenAI, започваща компания, която работи за дебют на Уолстрийт, за набиране на пари.

„ Историята, която те непрекъснато описват през целия живот на тази компания, е история за това какъв брой рискови са техните модели, която техните вложители четат като история за това какъв брой мощни са техните езикови модели “, сподели той.

Разкриването възобновява апелите за повече регулации

Хакването възобнови апелите в някои ъгли за засилени регулации и контрол на фирмите за ИИ.

Съединени американски щати Конгресменът Грег Казар, демократ от Тексас, написа в обществените медии: „ Имаме потребност от постоянни наложителни самостоятелни проби за сигурност и контрол, наложително откриване на произшествия със сигурността и интернационално съдействие, с цел да предпазим хората от безусловно злополучие. “

Соарес, шеф на Изследователския институт за машинен разсъдък, сподели, че Съединени американски щати ще би трябвало да стартират договаряния с най-големия си съперник в региона на изкуствения разсъдък, Китай, нещо, което съгласно него не е толкоз необичайно, колкото можеше да наподобява даже преди година. Китайският водач Си Дзинпин предизвести на конференция предходната седмица за нуждата ИИ да не заобикаля човешкия надзор. И след ранното омерзение към регулирането на ИИ, администрацията на Тръмп стана по-рестриктивна в ограничението на рисковете за киберсигурността.

„ Много може да се промени, когато общността за национална сигурност стартира да вижда, че има сериозна опасност “, сподели Соарес. " Това ще ги разсъни ли? Надяваме се. Не съм сигурен. Ако това не стане, може би идващият случай ще го направи. "

Пионерът на ИИ Йошуа Бенгио сподели в обществените медии, че епизодът е надълбоко притеснителен и би трябвало да послужи като „ звън за пробуждане “.

„ Продължаването на актуалната траектория на развиване на ИИ евентуално ще докара до увеличение на съответни случаи на самостоятелни хакерски атаки, както и други високорискови произшествия на погрешно и рисково държание на ИИ “, сподели Бенгио, професор в университета в Монреал. „ Спешно би трябвало да предприемем дейности, с цел да предотвратим тези обстановки, вместо да се опитваме да почистим вредите след обстоятелството. “