Anthropic, OpenAI и други разработчици на изкуствен интелект не могат да контролират собствените си технологии, твърди ново съдебно дело
Коалиция от организации с нестопанска цел съди петима огромни разработчици на изкуствен интелект в четвъртък в опит да блокират създаването им на модели на изкуствен интелект, потвърждавайки, че фирмите умишлено са основали технология, която съставлява пагубни опасности за човечеството.
Искът е заведен във Върховния съд на Сан Франциско от Алиансът за сигурен AI, дружно със застъпническите групи Irreplaceable Education Fund, Public Citizen и Heat Initiative — на име Anthropic, Гугъл, Meta, OpenAI и SpaceXSI (SpaceX Super Intelligence).
„ От години ръководителите, изграждащи тези системи, ни предупреждаваха, че техните лични гранични модели крият пагубни опасности “, сподели Брендън Щайнхаузер, основен изпълнителен шеф на The Alliance for Secure AI, в изказване.
" И въпреки всичко те не престават да се надпреварват да създават и оферират на пазара все по-мощен AI, който признават, че не могат надеждно да управляват, и в този момент предават проучванията и разработките на AI на самия AI ", добави той.
Технологичните компании, набелязани в делото, не дадоха отговор незабавно на искане за коментар.
Съдебният спор идва на фона на по-широка угриженост за сигурността на ИИ, провокирана от няколко обществено обявени случая, при които сътрудници на ИИ са се измамили и са направили неразрешени дейности.
Групите с нестопанска цел настояват, че фирмите с ИИ създават технология, която са признали, че не могат да управляват. Рискът може да нарасне, защото фирмите разчитат повече на личните си AI модели за създаване на бъдещи платформи без човешка интервенция, идея, известна като „ рекурсивно самоусъвършенстване “, съгласно делото.
„ Ответниците знаят, че тези системи не работят поредно в сходство с техните планове “, се показва в делото. „ И ответниците знаят, че няма благонадежден способ за управление на техните AI системи и предотвратяването им от причиняване на щета. “
Организациите с нестопанска цел също по този начин показват минали мнения на ръководители на компании за AI, които признават евентуалната щета от тяхната технология. През 2015 година да вземем за пример основният изпълнителен шеф на OpenAI Сам Олтман сподели, че изкуственият разсъдък „ евентуално най-вероятно ще докара до края на света “. През 2025 година изпълнителният шеф на Anthropic Дарио Амодей допусна, че има 25% късмет развиването на AI да докара до пагубни резултати.
С повишаването на контрола върху сигурността на техните технологии, софтуерните водачи подчертаха своите задължения за сигурност. Лидерите на AI компании, в това число Altman, Amodei и основният изпълнителен шеф на SpaceX Илон Мъск, през октомври показаха поддръжка за закъснение на развиването на AI в цялата промишленост, откакто чиновник на Anthropic сподели, че има 10% късмет AI „ да убие всички хора “.
