OpenAI работеше върху нов AI модел, който можеше да застраши човечеството преди отстраняването на Алтман - доклад

В доклад се казва, че новото откритие, наречено Q*, подхранва опасения за безопасността и че служителите са казали на борда за това, преди главният изпълнителен директор Сам Алтман да бъде уволнен.

Съобщава се, че гигантът за генериране на изкуствен интелект (AI) OpenAI работи върху усъвършенствано откритие, което изследователите на персонала предупредиха преди уволнението на главния изпълнителен директор Сам Алтман, че може да застраши човечеството, казаха двама души, запознати с въпроса, пред Reuters.

p>Бордът на OpenAI уволни Алтман миналия петък, но след това го възстанови във вторник, след като почти всички 750 служители на компанията заплашиха да подадат оставка, ако той не бъде възстановен.

Не е ясно защо Алтман е бил уволнен, но източниците казаха, че по-рано неотчетеното писмо и алгоритъмът за изкуствен интелект бяха ключови разработки преди хаоса, който разтърси стартъпа за изкуствен интелект.

Източниците цитираха писмото като един фактор сред по-дългия списък с оплаквания от борда, довели до уволнението на Алтман, сред които бяха опасения относно комерсиализиране на напредъка, преди да разбере последствията.

OpenAI призна във вътрешно съобщение до служителите съществуването на проект, наречен Q*, и писмо до борда преди събитията през уикенда, каза един от хората , според Reuters.

Постигане на изкуствен общ интелект

Говорител на OpenAI каза, че съобщението, изпратено от дългогодишния изпълнителен директор Мира Мурати, е предупредило персонала за някои медийни истории, без да коментират тяхната точност.

Някои от OpenAI вярват, че Q* (произнася се Q-Star) може да бъде пробив в търсенето на стартиращите компании на това, което е известно като изкуствен общ интелект (AGI), един от хората казаха пред Reuters.

OpenAI определя AGI като автономни системи, които превъзхождат хората в повечето икономически ценни задачи.

Предвид огромни изчислителни ресурси, новият модел успя да реши определени математически проблеми , каза лицето при условие за анонимност, тъй като лицето не е било упълномощено да говори от името на компанията.

Въпреки че извършването на математика само на ниво ученици в началните класове, справянето с такива тестове направи изследователите много оптимистични за бъдещия успех на Q*, каза източникът.

Правителствата по целия свят се опитват да разберат как да регулират ИИ на фона на опасенията, че може да се използва за създаване на оръжия или дори да надмине човешкия контрол.

Euronews Next се свърза с OpenAI за коментар, но не получи отговор към момента на публикуването.

Последвайте ни в