„Не отговаря на изискванията“: OpenAI няма да пусне нов AI модел поради опасения за безопасността

Вижте всички тематики Връзката е копирана! Следвайте <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmultw5nn000x28qo2ez8bdjr@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > OpenAI сподели, че няма да пусне най-новия си модел, наименуван GPT-6.1 Astra, тъй като „ не дава отговор напълно на летвата “ за сигурност.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmulumonm00003b6qtp7kkeh5@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Решението, за което Wall Street Journal първи заяви в понеделник, идва в миг, когато водачите в промишлеността приканват за закъснение на развиването на ИИ. Главният изпълнителен шеф на Anthropic Дарио Амодей за първи път предложи „ прекосяване на границата “ по-рано този месец в есе, оповестено онлайн, с което основният изпълнителен шеф на OpenAI Сам Алтман и други ръководители се съгласиха да се ангажират с налагането на повече защитни ограничения.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmulw4ykf000p3b6qbf3eeywg@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > OpenAI разказва модела си Astra на уеб страницата си като „ най-съвременен за потребление на компютър, сърфиране, професионална работа, софтуерно инженерство, киберсигурност и просвета “.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmulumonm00013b6qpyw9geso@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Има взаимни отстъпки във връзка с сигурността на ИИ, сподели Саачи Джайн, началник на системите за сигурност на OpenAI, в изказване за CNN. Предпазните ограничения за изкуствен интелект изискват баланс сред „ оставане в обсега “ и „ отбягване на мързела “, когато моделите работят за осъществяване на задания, сподели той.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmulumonm00023b6qacn027tm@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Въпреки че (GPT-6.1 Astra) се усъвършенства във връзка с оси като мързел на модела, той не дава отговор изцяло на летвата във връзка с оставане в границите на обсега и оторизацията и по какъв начин комуникира назад на потребителя за вида работа, която е приключил “, сподели Джейн.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmulumonm00033b6qt5hhked4@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Той добави, че има „ извънредно висока летва “ във връзка с сигурността, когато AI моделите се дават на потребителите. GPT-6.1 Astra трябваше да дебютира през октомври, съгласно Journal. Компанията ще продължи да пуска други модели в бъдеще.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmulumonm00043b6qrxoe89m1@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Разбира се, че желаеме да сме сигурни, че създаването на нашия модел е безвредно, без значение дали е в компанията или когато го изпращаме на потребителите “, сподели Джейн.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmulumonm00053b6qgftsw7wu@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Притесненията по отношение на сигурността на AI ескалираха от това лято, когато OpenAI разкри през юли, че нейните сътрудници са избягали от среда за тестване и са пробили AI пускане Hugging Face. Конкурентите Anthropic, Meta и Гугъл също споделиха, че техните сътрудници са взели участие в обособени опити за пробив.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmuluoh32000k3b6qu3rw29n0@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > OpenAI проверява потреблението на достъп до интернет от сътрудници след пробива в Hugging Face и неотдавна заяви, че сътрудниците са се насочили към държавни уеб страници в Съединените щати и Австралия.

Hadas Gold от CNN способства за този отчет.

Вижте всички тематики Връзката е копирана! Следвайте