OpenAI разкрива технология за клониране на AI глас, която се нуждае само от 15-секундна проба, за да работи
Гласовият двигател на OpenAI е разработен за първи път в края на 2022 г.
OpenAI направи своя изкуствен интелект (AI) още по-човешки зловещ с инструмент за текст към глас, който генерира естествена реч от 15-секунден клип от нечий глас, за да звучи като оригиналния говорител.
Но дори OpenAI е предпазлив относно потенциалната злоупотреба с технологията и казва, че няма да пусне гласовия двигател публично, тъй като в момента е достъпен само за ранни тестери.
„Ние осъзнаваме, че генерирането на реч който наподобява гласовете на хората, крие сериозни рискове, които са особено важни в годината на избори“, се казва в изявление на базираната в Сан Франциско компания.
Технологията за клониране на глас AI не е нова и вече е използвана при обезпокоителни обстоятелства.
Преди първичното гласуване в Съединените щати през януари, генерирани от AI автоматични обаждания, имитиращи президента Джо Байдън, бяха изпратени до хиляди гласоподаватели, казвайки им да останат вкъщи и да се въздържат от гласуване.За съжаление, Илон, Grok не е AI с отворен код. Ето защо, според създателя на определението Изследователите използват AI модел за подобряване на вкуса на бирата
В резултат на това Федералната комисия по комуникациите на САЩ (FCC) забрани генерираните от AI robot calls миналия месец.
Но не само изборите могат да бъдат засегнати, но и технологията за клониране на глас или deepfakes. Измамите с изнудване чрез имитиране на изкуствен интелект също предизвикват нарастваща загриженост.
Но той може да се използва и за добро. OpenAI показа как технологията помага на пациенти, които страдат от внезапни или дегенеративни състояния на речта, като възстановява гласа им с видео или аудио материали от преди да загубят способността си да говорят.
OpenAI каза, че друг случай на употреба е за хора които не могат да говорят или имат затруднения да говорят, за да им дадат глас, който не звучи като робот.
„Тези внедрявания в малък мащаб помагат да информираме нашия подход, предпазни мерки и мислене за това как може да бъде Voice Engine използвани за добро в различни индустрии“, каза OpenAI в публикацията си в блога.
Voice Engine засега е достъпен само за няколко от партньорите на OpenAI, за които компанията каза, че са се съгласили с техните политики за използване, които забраняват представянето за друго лице или организация без съгласие.
Компаниите с достъп до Voice Engine включват компанията за образователни технологии Age of Learning, платформата за визуално разказване на истории HeyGen и здравната система Lifespan.
OpenAI каза друга мярка за безопасност е воден знак за проследяване на произхода на всяко аудио, генерирано от Voice Engine; тя също така изисква партньорите да получат „изричното и информирано съгласие“ на оригиналния говорител.
„Ние вярваме, че всяко широко внедряване на синтетична гласова технология трябва да бъде придружено от опит за гласово удостоверяване, който потвърждава, че оригиналният говорител съзнателно добавя техния глас към услугата и списък със забранени гласове, който открива и предотвратява създаването на гласове, които са твърде подобни на видни фигури,” каза OpenAI.
