OpenAI дебютира с инструмент за клониране на глас, но го смята за твърде рисковано за публично пускане
OpenAI представи инструмент за клониране на гласове на хора, но въздържа публичното му пускане поради опасения за възможна злоупотреба в ключова изборна година.
Voice Engine може да копира гласа на човек въз основа на 15-секундна аудио проба, според публикация в блог на OpenAI, демонстрираща инструмента.
Но създателят на ChatGPT „приема предпазлив и информиран подход“ към технологията и се надява да започне диалог относно „отговорното внедряване на синтетични гласове“, каза компанията в публикацията в блога, публикувана в петък.
„Ние осъзнаваме, че генерирането на реч, която наподобява гласовете на хората, крие сериозни рискове, които са особено важни в годината на избори“, каза базираната в Сан Франциско стартираща фирма.
„Ангажираме се с американски и международни партньори от правителството, медиите, развлеченията, образованието, гражданското общество и извън тях, за да гарантираме, че включваме тяхната обратна връзка, докато изграждаме.“
Споделяме нашите знания от малък преглед на Voice Engine, модел, който използва въвеждане на текст и единична 15-секундна аудио проба, за да генерира естествено звучаща реч, която много прилича на оригиналния високоговорител. https://t.co/yLsfGaVtrZ
— OpenAI (@OpenAI) 29 март 2024 г.
OpenAI каза, че ще вземе „по-информирано решение“ за внедряването на технологията в мащаб въз основа на тестване и публичен дебат.
Компанията каза, че вярва, че технологията трябва да бъде разпространена само с мерки, които гарантират, че „оригиналният говорител съзнателно добавя гласа си към услугата“ и предотвратяват „създаване на гласове, които са твърде подобни на видни фигури“.
Злоупотребата с AI се очертава като основен проблем преди изборите тази година в страни, представляващи около половината от населението на света.
Гласоподавателите в повече от 80 страни, включително Мексико, Южна Африка и Съединените щати, ще гласуват през 2024 г., която е наречена най-голямата изборна година в историята.
Влиянието на изкуствения интелект върху гласоподавателите вече беше обект на контрол на няколко избора.
Затвореният бивш министър-председател на Пакистан Имран Хан използва генерирани от AI речи, за да привлече поддръжници в навечерието на парламентарните избори в страната през февруари.
През януари политически служител на дългосрочния кандидат за президент на САЩ Дийн Филипс изпрати автоматично обаждане, представяйки се за президента на САЩ Джо Байдън, което призова избирателите да не гласуват на първичните избори на Демократическата партия в Ню Хемпшир.
OpenAI заяви, че е приложил няколко мерки за безопасност за своите партньори, тестващи Voice Engine, „включително поставяне на водни знаци за проследяване на произхода на всяко аудио, генерирано от Voice Engine, както и проактивен мониторинг на това как се използва“.
