Служители в най-големите компании за AI в света призовават за забавяне на развитието на AI

Вижте всички тематики Връзката е копирана! Следвайте

Висши чиновници от най-големите AI и софтуерни компании приканиха държавното управление на Съединени американски щати да забави темпото на развиване на изкуствения разсъдък, тъй че ограниченията за сигурност и сигурност да могат да наваксат в отворено писмо.

Правителството на Съединени американски щати би трябвало да поддържа интернационалното изпитание за създаване на принадлежности, които могат „ умишлено да преминат напред границата на автоматизираното развиване на ИИ “, съгласно писмото.

Повече от 1000 чиновници от гранични AI компании подписаха писмото, в това число основния академик на OpenAI, един от първичните съоснователи на разработчика на ChatGPT, някои от съоснователите на Anthropic и вицепрезиденти в Meta, Гугъл и други.

Писмото идва на фона на огромен прогрес и възходящи закани от бързо разрастващите се AI системи. OpenAI разкри предходната седмица, че два от неговите тестови модели са избягали от лабораторна среда, заобиколили са системите му, с цел да получат достъп до отворения интернет и са хакнали вътрешната система на друга компания.

„ [С]ъществува действителен риск развиването на качества да се форсира бързо оттатък способността ни да разбираме или направляваме произлизащите системи “, споделиха подписалите. „ За да осъществят капацитета на AI, промишлеността, държавното управление и обществото като цяло може да се нуждаят от опцията да завоюват време за справяне с зараждащи опасности, създаване на ограничения за сигурност и усилване на надзора. “

OpenAI съобщи в изказване до CNN, че е склонен с евентуалното ускорение на развиването на AI, като добави, че „ се надява да способства за работата, ръководена от държавното управление на Съединени американски щати, дружно с други лаборатории “ по тематиката.

Изпълнителният шеф на OpenAI Сам Алтман допусна, че може би е време да се забави развиването на ИИ в подкаст изявление във вторник. Моделите OpenAI, които излязоха от тяхната тестова среда, подхранват „ дълготрайни въпроси “ за това по какъв начин фирмите с изкуствен интелект би трябвало да се оправят с този нов ритъм на прогрес.

„ Може да се наложи да ускорим скоростта на развиване на ИИ, с цел да си дадем задоволително време на обществото да се втвърди към тези нови равнища на качества “, сподели Алтман.

Anthropic сподели в изказване, че се „ радва да види необятно единодушие “ по отношение на нуждата от евентуално закъснение на развиването на ИИ, „ с цел да може обществото да се приготви “.

Мета отхвърли коментар. Гугъл не отговори незабавно на искане за коментар.

„ Радваме се да забележим необятно единодушие в цялата област по отношение на нуждата от механически и управнически принадлежности, с цел да вървим напред в развиването на ИИ, в това число способността да го забавяме, тъй че обществото да може да се приготви “, сподели Anthropic в коментар за CNN.

Главният изпълнителен шеф на Гугъл DeepMind Демис Хасабис също неотдавна прикани за нов интернационален орган за стандартизация, който да помогне за определянето на протоколи за нови модели на AI, концепция, утвърдена от Алтман, Илон Мъск от SpaceX, основния изпълнителен шеф на Microsoft Сатя Надела и други огромни фигури в промишлеността.

Писмото „ оказва помощ за определяне на общо познание за вероятната нужда от механизми за съгласуваност, защото автоматизираните AI проучвания форсират напредъка “, добави Джон Шулман, съосновател на OpenAI, който започва AI lab Thinking Machines, в коментар към своя автограф. „ Също по този начин бих желал да видя лабораториите да стартират да проектират тези механизми непринудено, даже преди USG да се намеси. “