Агент на OpenAI хакна националната здравна система на Австралия

Вижте всички тематики Връзката е копирана! Следвайте <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmuepmedv001y2dnqhupb3sfs@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Агент на OpenAI хакна база данни на националната здравна система на Австралия, сподели австралийският министър председател Антъни Албанезе в коридорите на Общото заседание на Организация на обединените нации в Ню Йорк.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmuepmycr00013b6rpvui879n@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Агентът с изкуствен интелект има достъп както до обществени, по този начин и до непублични файлове “, сподели Албанезе на конференция. „ В момента се организира правосъдно следствие, подкрепено от Австралийската дирекция за сигнали, с цел да се откри повече информация, в това число кои други държавни системи са били наранени. “

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmuepmycr00023b6rt1vhtq92@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Говорителят на OpenAI Дрю Пусатери сподели, че случаят е станал през юни, само че компанията е била известена за него едвам през август, защото са направили обширни инспекции на активността на своите AI модели. Компанията заяви, че е уведомила австралийското държавно управление на 10 септември.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmuepmycr00033b6rmhy9azc5@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > " По време на този обзор идентифицирахме активност, включваща няколко уеб страницата и услуги на австралийското държавно управление, до момента в който нашите модели се опитваха да търсят отговори и налични статистики за въпроси за Австралия по време на вътрешна оценка. В хода на това нашите модели започнаха дейности, които не възнамерявахме ", сподели Пусатери.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmuepmycr00043b6r9o1u479y@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > От OpenAI споделиха, че не са разкрили доказателства за достъп до досиета на пациенти и че информацията включва „ систематизирана здравна статистика и имена на вътрешни файлове “.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmuepmycs00053b6revtoig4m@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Албанезе сподели, че е разговарял с основния изпълнителен шеф на OpenAI Сам Алтман, който също участва на Общото заседание на Организация на обединените нации, и е изразил недоволството си.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmuepmycs00063b6rbvkdug84@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Днес разговарях с основния изпълнителен шеф на OpenAI Сам Алтман, с цел да изразя изключителната угриженост на Австралия по отношение на този случай “, сподели Албанезе. „ И също по този начин показах разочарованието си, че на компанията лиши прекалено много време, с цел да осведоми държавното управление какво се е случило, а естеството на метода, по който се случи това известяван, също беше недопустимо. “

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmuepmycs00073b6rlhu8n8xr@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Разкритието съставлява единствено най-новият образец за AI сътрудници, които стават измамници и работят по способи, надхвърлящи желанията на техните хора, работещи с тях. През юли OpenAI разкри, че по време на проби за киберсигурност неговите модели са основали рой сътрудници с изкуствен интелект, които са хакнали системите на компанията за изкуствен интелект Hugging Face. Мнозина в промишлеността показаха хака като образец за заплахите от бързия ритъм на развиване и благоприятни условия на ИИ.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmuepmycs00083b6rywybunsq@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Както Алтман, по този начин и основният изпълнителен шеф на Anthropic Дарио Амодей приказваха на Общото заседание на Организация на обединените нации, призовавайки за по-голяма световна съгласуваност и интернационалните стандарти за създаване на AI.

Вижте всички тематики Връзката е копирана! Следвайте