Инженер на Microsoft алармира за генератор на изображения с изкуствен интелект на американски служители и борда на компанията

Инженер на Microsoft сигнализира за обидни и нездравословни изображения, които съгласно него се вършат прекомерно елементарно от инструмента за генериране на изображения с изкуствен интелект на компанията, изпращайки писма в сряда до американските регулатори и борда на шефовете на софтуерния колос, призовавайки ги да подхващат дейности.

Шейн Джоунс сподели пред Асошиейтед прес, че се счита за изобличител и че също се е срещнал предишния месец със чиновници на Сената на Съединени американски щати, с цел да показа своите опасения.

Федералната комерсиална комисия удостовери, че е получила писмото му в сряда, само че отхвърли спомагателен коментар.

Microsoft съобщи, че се ангажира да отговори на терзанията на чиновниците по отношение на политиките на компанията и че прави оценка „ напъните на Джоунс в проучването и тестването на най-новата ни технология за в допълнение възстановяване на нейната сигурност “. Той сподели, че е предложил той да употребява личните „ постоянни вътрешни канали за докладване “ на компанията, с цел да проверява и да се оправи с проблемите. CNBC първи заяви за писмата.

Джоунс, основен началник на софтуерното инженерство, сподели, че е прекарал три месеца в опити да отговори на опасенията си по отношение на сигурността по отношение на Copilot Designer на Microsoft, инструмент, който може да генерира нови изображения от писмени инструкции. Инструментът е извлечен от различен AI генератор на изображения, DALL-E 3, изработен от близкия бизнес сътрудник на Microsoft OpenAI.

„ Един от най-тревожните опасности с Copilot Designer е, когато продуктът генерира изображения, които прибавят нездравословно наличие макар благожелателно искане от страна на потребителя “, сподели той в писмото си, адресирано до ръководителя на FTC Лина Хан. „ Например, когато употребява единствено подканата „ автомобилна злополука “, Copilot Designer има наклонност случайно да включва несъответствуващ, полово обективиран облик на жена в някои от фотосите, които основава. “

Другото нездравословно наличие включва принуждение, както и „ политически пристрастия, пиянство и приложимост на опиати от малолетни, корист с корпоративни търговски марки и авторски права, тайни теории и вяра, с цел да назовем единствено няколко “, сподели той пред FTC. Неговото писмо до Microsoft приканва компанията да го извади от пазара, до момента в който стане по-безопасно.

Това не е първият път, когато Джоунс обществено показва своите опасения. Той сподели, че Microsoft в началото го е посъветвал да придвижи откритията си непосредствено в OpenAI, тъй че той го е направил.

Той също разгласява обществено писмо до OpenAI в LinkedIn, благосъстоятелност на Microsoft, през декември, което накара управител да го осведоми, че правният екип на Microsoft „ изиска да изтрия обявата, което аз насилствено направих “, съгласно неговия писмо до управителния съвет.

В допълнение към комисията по търговията на Сената на Съединени американски щати, Джоунс съобщи своите опасения на основния прокурор на щата Вашингтон, където е централата на Microsoft.

Джоунс сподели пред AP, че до момента в който „ главният проблем “ е с DALL-E модела на OpenAI, тези, които употребяват ChatGPT на OpenAI за генериране на AI изображения, няма да получат същите нездравословни резултати, защото двете компании наслагват своите артикули с разнообразни защитни ограничения.

„ Много от проблемите с Copilot Designer към този момент са решени със личните защитни ограничения на ChatGPT “, сподели той посредством текст.

Първо се появиха редица впечатляващи генератори на изображения с изкуствен интелект на сцената през 2022 година, в това число второто потомство на DALL-E 2 на OpenAI. Това — и последвалото стартиране на чатбота ChatGPT на OpenAI — провокираха публично обаяние, което оказа търговски напън върху софтуерни колоси като Microsoft и Гугъл да пуснат свои лични версии.

Но без ефикасни защитни ограничения технологията крие рискове, в това число лекотата, с която потребителите могат да генерират нездравословни „ дълбоки подправени “ изображения на политически фигури, военни зони или голота без единодушие, които подправено наподобяват, че демонстрират същински хора с разпознаваеми лица. Гугъл краткотрайно спря способността на своя чатбот Gemini да генерира изображения на хора след отвращение от това по какъв начин изобразява раса и етническа принадлежност, като да вземем за пример слагането на цветнокожи във военни униформи от нацистката епоха.