OpenAI казва, че наема главен изпълнителен директор по безопасността, за да смекчи рисковете от изкуствения интелект
OpenAI търси нов „ началник по готовността “, който да управлява тактиката за сигурност на компанията на фона на възходящите опасения за това по какъв начин инструментите за изкуствен интелект могат да бъдат злоупотребени.
Според обявата за работа на новия чиновник ще бъдат платени $555 000, с цел да управлява екипа на системите за сигурност на компанията, което съгласно OpenAI е фокусиран върху гарантирането, че AI моделите са „ отговорно създадени и внедрени “. Ръководителят на подготвеността също ще бъде претрупан с следене на рисковете и създаване на тактики за намаляване на това, което OpenAI назовава „ гранични качества, които основават нови опасности от съществени вреди. “
„ Това ще бъде стресираща работа и ще скочите в дълбокия край съвсем незабавно “, написа основният изпълнителен шеф Сам Алтман в публикация X, описваща позицията през уикенда.
Той добави: „ Това е сериозна роля във значима време; моделите се усъвършенстват бързо и към този момент са способни на доста страхотни неща, само че също по този начин стартират да съставляват някои същински провокации. "
OpenAI не отговори незабавно на искане за коментар.
Инвестициите на компанията в напъните за сигурност идват на фона на усилване на контрола върху въздействието на изкуствения разсъдък върху психологичното здраве, след множество обвинения, че чатботът на OpenAI, ChatGPT, е взел участие във взаимоотношения предшестващи редица самоубийства.
В един случай по-рано тази година, отразен от CBS News, родителите на 16-годишен съдиха компанията, потвърждавайки, че ChatGPT е насърчил сина им да възнамерява личното си самоубийство. Това накара OpenAI да разгласи нови протоколи за сигурност за консуматори под 18 години.
ChatGPT също по този начин подхранва това, което правосъдно дело, заведено по-рано този месец, разказва като „ параноични заблуди “ на 56-годишен мъж, който умъртви майка си и по-късно се самоуби. По това време OpenAI сподели, че работи върху възстановяване на технологията си, с цел да помогне на ChatGPT да разпознава и реагира на признаци на душевен или прочувствен дистрес, да понижава ескалацията на диалозите и да насочва хората към поддръжка в действителния свят.
Освен опасенията за психологичното здраве, паниките също се усилиха по отношение на това по какъв начин изкуственият разсъдък може да се употребява за осъществяване на офанзиви против киберсигурността. Саманта Виноград, помощник на CBS News и някогашен почитан чиновник на вътрешната сигурност в администрацията на Обама, обърна внимание на въпроса в „ Face the Nation with Margaret Brennan “ на CBS News в неделя.
„ ИИ не просто изравнява изискванията за избрани участници “, сподели тя. „ Това в действителност извежда нови играчи на терена, защото обособени лица, недържавни артисти, имат достъп до относително евтина технология, която прави другите типове закани по-надеждни и по-ефективни. “
Олтман признава възходящите рискове за сигурността, които ИИ съставлява в своя пост X, като написа, че до момента в който моделите и техните благоприятни условия са напреднали бързо, провокациите също са почнали да пораждат.
„ Потенциалното влияние на моделите върху психологичното здраве бяха нещо, което видяхме прелиминарен обзор през 2025 г.; таман в този момент виждаме, че моделите стават толкоз положителни в компютърната сигурност, че стартират да откриват сериозни уязвимости ", написа той. " Сега, продължи той, навлизаме в свят, в който се нуждаем от по-тънко схващане и премерване на това по какъв начин тези благоприятни условия могат да бъдат злоупотребявани и по какъв начин можем да ограничим тези дефекти... по метод, който ни разрешава да се любуваме на големи изгоди. "
Според обявата за работа, квалифицираният претендент ще има " изчерпателен механически опит в машинното образование, сигурността на ИИ, оценките, сигурността или прилежащи рискови домейни " и ще има опит с " планиране или осъществяване на високостроги оценки за комплицирани механически системи ", наред с други квалификации.
OpenAI за първи път разгласи основаването на екип за подготвеност през 2023 година, съгласно TechCrunch.
