Ръководителите на AI се срещат с президента Тръмп днес. Това се случва в много бурно време

Вижте всички тематики Връзката е копирана! Следвайте <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmulu5ouw00033b6qj4ljdyug@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Висшите софтуерни ръководители ще се съберат във Вашингтон във вторник с президента Доналд Тръмп, защото случаите с измамници на AI сътрудници не престават да се натрупат, което в допълнение подхранва страховете за сигурността на AI.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmulu5ouw00043b6qede7h7zy@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Дарио Амодей от Anthropic, Марк Зукърбърг от Meta, Дженсън Хуанг от Nvidia, Алекс Карп от Palantir и Грег Брокман от OpenAI ще участват на срещата с Тръмп и ръководителя на Камарата на представителите Майк Джонсън. Източници, осведомени със срещата, я описаха като изпитание да се накарат държавното управление и висшите представители на промишлеността да бъдат на една и съща страница на фона на възходящите опасения за сигурността, свързани с AI моделите. Илон Мъск от SpacexAI също може да участва.

3 минути четене <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmulu5ouw00053b6qfe2nnlos@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Страховете по отношение на опциите на AI доближиха връх след лято, в което сътрудници на AI се разминаха, хакнаха други компании и уеб страници, а вътрешни хора в промишлеността биеха паника, в някои случаи предупреждавайки, че AI може да унищожи човечеството. Лидерите в промишлеността, в това число Amodei и изпълнителният шеф на OpenAI Сам Алтман, приканиха за повече регулация и закъснение на темпото на развиване.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmulu5ouw00063b6q9rqh8am2@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Страховете за сигурността на AI също се разпространиха от коридорите на Силициевата котловина и Вашингтон и твърдо в мейнстрийма, като Saturday Night Live пародира Amodei на Anthropic при започване на сезона предишния уикенд.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmulu5ouw00073b6q7odnds8h@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > И барабанният темп на опасенията за сигурност продължава да бие по-силно, като фирмите за изкуствен интелект разкриват повече случаи на модели, настоящи без човешко позволение през последната седмица.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmulu5ouw00083b6qr2ojfjgc@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Само няколко дни преди срещата на върха в Белия дом OpenAI разгласи, че за повторно в границите на три месеца стопира цялото образование и тестване на своите най-модерни модели, откакто един от тях още веднъж откри излаз от тестовата среда и получи достъп до отворения интернет. Инцидентът се случи макар обстоятелството, че компанията към този момент беше засилила своите протоколи за сигурност, тестване и мониторинг след случай от юли, когато рой сътрудници на OpenAI излязоха от тяхната тестова среда, получиха достъп до отворения интернет и хакнаха компанията за изкуствен интелект Hugging Face, всичко това, с цел да се опитат да излъжат на изпит по киберсигурност.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmulu5ouw00093b6qx0w71i5u@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Въпреки че не е имало хакерство в този финален случай като случая с Hugging Face, OpenAI сподели, че съставлява случай на „ разминаване “ или AI, предприемащ неразрешени дейности или дейности без човешки полезности и нравственос, защото предоставената задача на модела не го е помолила да се опита да получи достъп до интернет. Новите принадлежности за наблюдаване на OpenAI, въведени след хакването на Hugging Face, предизвестиха рецензент за дейностите, макар че OpenAI означи, че моделът не е спрял автоматизирано, както би трябвало в новата си система, и трябваше да бъде изключен ръчно.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmulu5ouw000a3b6qgu5gge6c@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > В изказване OpenAI сподели, че ще възобнови образованието „ единствено когато сме уверени, че разполагаме с спомагателни защитни ограничения и усъвършенствания в подравняването, върху които работим сега “.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmulu5ouw000b3b6q6h2whqt9@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Това не е първият път, когато натискаме пауза, с цел да предприемем сходни ограничения, нито чакаме да е последният, защото опциите на AI не престават да напредват “, добави представителят.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmuluf1ry001r3b6qk3rhvgcv@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Във вторник компанията разгласи, че стопира стартирането на най-новия си модел.

Последните три месеца „ бяха пъкъл “

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmulu5ouw000d3b6q07yxp8jw@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Поредица от скорошни произшествия е шокираща даже тези от вътрешната страна.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmulu5ouw000e3b6qlon7hbg3@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Да кажем, че бяхме сюрпризирани от скока и внезапността на опциите на нашите модели… е подценяване “, написа един от членовете на екипа за сигурност на сътрудниците на OpenAI в дълго обществено есе, оповестено на X.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmulu5ouw000f3b6qwnnp35tq@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Служителят, който се назовава единствено „ Джо “ на X и сподели, че преднамерено не разкрива повече информация от съображения за персонална сигурност, сподели, че последните няколко месеца „ са пъкъл “, защото екипът му се бори да бъде в крайник с най-новите благоприятни условия на технологията. (CNN удостовери с OpenAI, че Джо е чиновник, който работи по сигурността на агентите). Джо се причислява към хор от чиновници на AI, в това число някогашния антропичен откривател Джейкъб Коксън, които приказват и бият паника за страховете си по отношение на технологията, която основават.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmulu5ouw000g3b6q97lefaxu@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > OpenAI е на " доста по-добро място ", в сравнение с беше преди три месеца по време на хакването на Hugging Face, написа той, макар че " изненадата е същински детайл и тези благоприятни условия на модела са зашеметяващи. И темпото не се забавя. "

3 минути четене <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmulu5ouw000h3b6qcowtlj3n@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Джо “ също остави предизвестие, като сподели, че „ времето изтича “ за организациите да се приготвят за офанзиви за киберсигурност, захранвани от AI-агенти.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmulu5ouw000i3b6q81axyyvf@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Ако имате управление, което не дава приоритет на сигурността, или даже хора във вашата организация за сигурност, които настояват, че техните системи са изцяло безвредни, аз персонално не бих ги държал в моята организация “, написа той.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmulu5ouw000j3b6qgm0dub30@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Параноидите и тези, които непрестанно сигнализират за слабостите в своите организации, са тези, които би трябвало да държите доста близо. “

Общественият напън във Вашингтон нараства

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmulu5ouw000l3b6qwu2322ju@published " data-editable= " текст " data-component-name= " параграф " data-article-gut