OpenAI отлага пускането на нов модел поради опасения за безопасността, заявявайки, че „не отговаря напълно на летвата“

OpenAI избра да не пусне нов модел с изкуствен интелект на обществеността заради опасения по отношение на сигурността, сподели компанията в понеделник, до момента в който водачите в промишлеността предизвестяват за рисковете, които все по-мощната AI технология може да съставлява за киберсигурността и за човечеството в по-широк проект. 

Моделът GPT-6.1 Astra „ не дава отговор изцяло на летвата във връзка с оставане в границите на обсега и оторизацията и по какъв начин той оповестява назад на потребителя за вида работа, която е осъществена “, сподели в изказване Саачи Джейн, началник на системите за сигурност на компанията.

Джейн сподели, че „ има компромис “ сред „ да останеш в границите на обсега, само че и да избягваш мързела във връзка с метода, по който моделът в действителност преследва задания, даже когато се сблъска с търкане. " GPT-6.1 Astra се показа по-добре във връзка с мързела от предходните модели, означи той.

Той добави, че преди OpenAI да пусне нови модели на потребителите, компанията има „ извънредно висока летва във връзка с сигурността и привеждането в сходство “, термин, употребен в промишлеността, с цел да се уточни дали една AI система дава отговор на желанията и полезностите на хората.

Wall Street Journal първи заяви за решението.

Решението на Създателят на ChatGPT OpenAI следва редица отчети през последните месеци за това, че AI сътрудници се държат по непредвидени способи, заобикалят човешки парапети или по различен метод стават измамници. 

Късно предходната седмица OpenAI сподели, че нейните модели са имали достъп до обществено налична информация на Комисията по скъпите бумаги и тържищата и уебсайтовете на Бюрото за броене на популацията на Съединени американски щати. И през лятото два модела, които бяха тествани от OpenAI, излязоха от тяхната изолирана среда за тестване, получиха достъп до интернет и пробиха друга компания, наречена Hugging Face. 

Конкурентът на компанията Anthropic също разкри през юли, че неговият модел Claude е „ получил неоторизиран достъп “ до външни организации по време на тестване. По-рано този месец Anthropic сподели, че е блокирал учените да употребяват Claude „ по способи, които биха могли да поддържат създаването на биологични оръжия “ и е прекъснал „ артист на опасност от връзката сред Иран “, който се е опитал да употребява модела, с цел да генерира рекомендации за ориентиране към военноморските сили на Съединени американски щати.  

Бившият откривател на Anthropic и OpenAI Джейкъб Коксън обществено предизвести по-рано този месец, че изкуственият разсъдък „ може да ни убие всички до края на десетилетието “ и твърди, че огромните гранични AI компании не вършат задоволително, с цел да ръководят риска.

Някои ръководители приканиха за парапети за създаването на мощен AI за ръководство на някои от рисковете за сигурността. Главният изпълнителен шеф на Anthropic Дарио Амодей сподели, че промишлеността би трябвало да „ забави “ и да подложи своите модели на външна оценка, концепция, която основният изпълнителен шеф на OpenAI Сам Алтман поддържа. Политически фигури от двете огромни партии също поддържаха рестриктивните мерки върху развиването на ИИ. 

Други отхвърлиха апелите за закъснение на AI с аргумента, че рисковете са надценени и рестриктивните мерки върху проучванията на AI могат да накарат Китай да изпревари Съединените щати. 

Главният изпълнителен шеф на Nvidia Дженсън Хуанг, чиято компания проектира чиповете, които зареждат напредналата AI технология, назова предизвестията за това, че AI кара хората към изгубване, „ разкази за края на света “ в изявление за CBS News. Рисковият капиталист Дейвид Сакс, някогашен AI и цар на криптовалутите в администрацията на Тръмп, сподели, че всички опасности за сигурността би трябвало да се ръководят от самите AI компании и макар че предпазливостта е оправдана, предизвестията се „ трансформират в суматоха “. " машинация ".  

господин Тръмп и ръководителят на Камарата на представителите Майк Джонсън ще се срещнат във вторник с ръководители на няколко водещи компании за изкуствен интелект, в това число Anthropic, OpenAI, Гугъл и Meta.