OpenAI работеше върху нов AI модел, който можеше да застраши човечеството преди отстраняването на Алтман - доклад

В отчет се споделя, че новото изобретение, наречено Q*, подхранва опасения за сигурността и че чиновниците са споделили на борда за това, преди основният изпълнителен шеф Сам Алтман да бъде уволнен.

Съобщава се, че колосът за генериране на изкуствен интелект (AI) OpenAI работи върху усъвършенствано изобретение, което откривателите на личния състав предизвестиха преди уволнението на основния изпълнителен шеф Сам Алтман, че може да заплаши човечеството, споделиха двама души, осведомени с въпроса, пред Reuters.

p> Бордът на OpenAI уволни Алтман предишния петък, само че по-късно го възвърне във вторник, откакто съвсем всички 750 чиновници на компанията заплашиха да подадат оставка, в случай че той не бъде възобновен.

Не е ясно за какво Алтман е бил уволнен, само че източниците споделиха, че по-рано неотчетеното писмо и логаритъмът за изкуствен интелект бяха основни разработки преди хаоса, който раздруса стартъпа за изкуствен интелект.

Източниците цитираха писмото като един фактор измежду по-дългия лист с недоволства от борда, довели до уволнението на Алтман, измежду които бяха опасения по отношение на комерсиализиране на напредъка, преди да разбере следствията.

OpenAI призна във вътрешно известие до чиновниците съществуването на план, наименуван Q*, и писмо до борда преди събитията през уикенда, сподели един от хората, съгласно Reuters.

Постигане на неестествен общ разсъдък

Говорител на OpenAI сподели, че известието, изпратено от дългогодишния изпълнителен шеф Мира Мурати, е предизвестило личния състав за някои медийни истории, без да разясняват тяхната акуратност.

Някои от OpenAI имат вяра, че Q* (произнася се Q-Star) може да бъде пробив в търсенето на започващите компании на това, което е известно като неестествен общ разсъдък (AGI), един от хората споделиха пред Reuters.

OpenAI дефинира AGI като самостоятелни системи, които превъзхождат хората в множеството стопански скъпи задания.

Предвид големи изчислителни запаси, новият модел съумя да реши избрани математически проблеми, сподели лицето при изискване за анонимност, защото лицето не е било упълномощено да приказва от името на компанията.

Въпреки че осъществяването на математика единствено на равнище възпитаници в началните класове, оправянето с такива проби направи откривателите доста оптимистични за бъдещия триумф на Q*, сподели източникът.

Правителствата по целия свят се пробват да схванат по какъв начин да контролират ИИ на фона на опасенията, че може да се употребява за основаване на оръжия или даже да надмине човешкия надзор.

Euronews Next се свърза с OpenAI за коментар, само че не получи отговор все още на публикуването.