Microsoft се бори да актуализира безплатния си софтуер за изкуствен интелект след скандала с дълбоките фалшиви фалшиви изображения на Тейлър Суифт
Майкрософт предприе мерки срещу използването на безплатния софтуер за изкуствен интелект на компанията, след като инструментът беше свързан със създаването на сексуално явни дълбоки фалшиви изображения на Тейлър Суифт, които заляха социалните медии – и вдигна призрака на съдебен иск от вбесената певица.
Технологичният гигант пусна актуализация на своя популярен инструмент, наречен Designer – програма за текст към изображение, задвижвана от Dall-E 3 на OpenAI – която добавя „защитни парапети“, които ще предотвратят използването на снимки без съгласие, компанията каза.
Фалшивите снимки – показващи гола Суифт, заобиколена от играчи на Канзас Сити Чийфс, като препратка към нейния широко рекламиран романс с Травис Келс – бяха проследени до дизайнерския AI на Microsoft, преди да започнат да циркулират в X, Reddit и други уебсайтове, техн. -фокусиран сайт 404 Media съобщи в понеделник.
„Ние проучваме тези доклади и предприемаме подходящи действия за справяне с тях“, каза говорител на Microsoft пред 404 Media, който първи съобщи за актуализацията.
„Имаме големи екипи, работещи по разработването на парапети и други системи за безопасност в съответствие с нашите принципи за отговорен AI, включително филтриране на съдържание, оперативен мониторинг и откриване на злоупотреби, за да смекчи злоупотребата със системата и да помогне за създаването на по-безопасна среда за потребителите, ” добави говорителят, отбелязвайки, че според Кодекса за поведение на компанията всички потребители на Designer, които създават deepfakes, ще загубят достъп до услугата.
вижте също
Вивек Рамасуами диво спекулира, че Super Bowl ще бъде нагласен за Chiefs, за да подготви сцената за подкрепата на Тейлър Суифт за Байдън
Представители на Microsoft не отговориха веднага на искането на The Post за коментар.
Актуализацията идва след като главният изпълнителен директор на Microsoft Сатя Надела каза, че технологичните компании трябва да „действат бързо“, за да се справят със злоупотребата с инструменти за изкуствен интелект.
Надела, чиято компания е ключов инвеститор в създателя на ChatGPT OpenAI, описа разпространението на фалшиви порнографски изображения на певеца на „Cruel Summer“ като „тревожно и ужасно“.
„Трябва да действаме. И честно казано, всички ние в технологичната платформа, независимо от позицията ви по конкретен въпрос,” каза Надела, според стенограма преди интервю за NBC Nightly News intervju, което ще бъде излъчено във вторник.
„Не мисля, че някой би искал онлайн свят, който не е напълно безопасен както за създателите на съдържание, така и за потребителите на съдържание.“
Swift deepfakes бяха прегледани повече от 45 милиона пъти на X, преди най-накрая да бъдат премахнати след около 17 часа.
Източник, близък до Swift, беше ужасен, че „социалната медийна платформа дори им позволи да започнат“, съобщава Daily Mail, особено като се има предвид, че Помощният център на X очертава политики, които забраняват публикуването на „синтетични и манипулирани медии“, както и „ голота без съгласие.“
През уикенда платформата за социални медии на Илон Мъск предприе изключителната стъпка да блокира всякакви търсения, включващи името на Суифт, да не дават резултати – дори и тези, които бяха безобидни.
Изпълнителният директор на X Джо Бенарок описа преместването като „временно действие и направено с много предпазливост, тъй като даваме приоритет на безопасността по този въпрос.“
Забраната остана в сила в понеделник.
Противоречието може да означава още едно главоболие за Microsoft и други лидери на AI, които вече са изправени пред нарастващ правен, законодателен и регулаторен контрол върху процъфтяващата технология.
Прессекретарят на Белия дом Карин Жан-Пиер описа тенденцията на deepfakes като „много тревожна“ и каза, че администрацията на Байдън „ще направи всичко възможно, за да се справи с този проблем“.
Възходът на AI deepfakes може да се появи като ключова тема по-късно тази седмица, когато главният изпълнителен директор на Meta Марк Зукърбърг, главният изпълнителен директор на TikTok Шу Чу и други видни технологични босове дадат показания пред панел на Сената.
По-рано този месец конгресменът Джоузеф Морел (D-NY) и Том Кийн (R-NJ) внесоха отново законопроект, който ще превърне споделянето без съгласие на дигитално променени порнографски изображения във федерално престъпление, с наложени наказания като затвор, добре или и двете.
„Законът за предотвратяване на дълбоки фалшификации на интимни изображения“ беше отнесен до съдебната комисия на Камарата на представителите, но комисията все още не е взела решение дали да приеме или не законопроекта.
