Шокиращо: Някои разработчици на AI не се вслушаха, когато жена отхвърли офертата им
Бележка на редактора: Версия на тази история се появи в бюлетина Nightcap на CNN Business. За да го получите във входящата си поща, регистрирайте се безплатно, .
Ако сте дремнали през драмата Скарлет Йохансон-OpenAI тази седмица, позволете ми бързо да ви наваксам:
Една жена отхвърли молбата на мъж два пъти и той отговори като дете - демонстрирайки само една от причините, поради които светът трябва да бъде скептичен към хората и компаниите, които печелят от собствения си задъхан AI шум.
Изтърпете малко по-дългата версия.
Още през септември Скарлет Йохансон, която изигра натрапчиво сложния AI асистент във филма на Спайк Джонз от 2013 г. „Her“, получи молба от главния изпълнителен директор на OpenAI, Сам Алтман. Той искаше да наеме Йохансон да озвучи най-новия ChatGPT модел на неговата компания, „Sky“. Тя каза не. Няколко месеца по-късно, само дни преди пускането на продукта, той я помоли да преразгледа.
Но преди тя да има възможност да каже не втори път, OpenAI пусна новия модел с глас, който звучеше поразително подобно на този на Йохансон. Дебютът на AI беше едновременно умопомрачителен и ужасяващ. Умопомрачително поради очевидната изтънченост на бота и качествата, подобни на човека, и достоен за ужас, като се има предвид колко неудобно закачливо звучеше, като карикатура на фантазията на компютърен разработчик.
Йохансон бързо се адвокатира, като каза в понеделник, че е „шокирана, ядосана и невярваща“, че Алтман ще използва глас, „толкова зловещо подобен“ на нейния.
Компанията, която постави на пауза актуализацията след правната заплаха от Йохансон, каза, че гласът „принадлежи на различна професионална актриса, използваща собствения си естествен говорещ глас“ и не е предназначен да прилича на този на Йохансон. Алтман – който е в записа за любовта си към филма на Спайк Джонз и дори туитва думата „тя“ в деня на представянето – се извини на Йохансон в понеделник.
Безопасността остава на заден план
Разривът отразява по-широко безпокойство сред художници, академици и дори някои пионери на ИИ относно скоростта, с която технологичните компании изграждат и пускат инструменти за ИИ на обществеността, като привидно не обръщат особено внимание на интелектуалната собственост и опасенията за безопасността.
Той също така посочва един от първородните грехове на AI, който неговите разработчици все още не са разрешили: че всички тези продукти са осветени, финансирани и изградени от 0,01% от Силициевата долина - предимно млада, бяла и мъжка кохорта, чиято естествена човешките пристрастия се намесват в AI по начини, които дори те не разбират напълно или не осъзнават.
OpenAI беше принуден да се изправи срещу някои от тези опасения в края на миналата седмица, след като двама видни служители напуснаха компанията.
Единият, Ян Лейке, написа на X, че „културата и процесите на безопасност на компанията са отстъпили на заден план пред лъскавите продукти“. Другият, съоснователят и главен учен на OpenAI Иля Суцкевер, обяви, че напуска, за да работи по друг проект, без да разкрива подробности, въпреки че напускането му е особено забележително предвид ключовата му роля в (накратко, драматично) уволнението на Алтман миналата година поради опасения, че Алтман натискаше AI технологията „твърде далеч, твърде бързо“.
Алтман дори призна гледната точка на Лейке, като каза: „Той е прав, имаме още много работа; ние се ангажираме да го направим.“
Това е вид дипломатическа откровеност, която помогна на Олтман, 39-годишен милиардер, да стане лицето на „отговорния изкуствен интелект“. Той е внимателна, харизматична фигура и наистина иска да ни вярваме, че се грижи за обикновените хора, докато сече пари и се надпреварва да победи Google и Meta на върха на планината с ИИ.
Ще ми е любопитно да го попитам обаче кога за последен път е гледал „Нея“ – един от любимите му филми, който той нарича „невероятно пророчески“ – до края.
Защото част от това, което прави филма страхотен, е как топлият и емпатичен глас на Йохансон приспива главния герой (и публиката, в крайна сметка) в почти хипнотично състояние на увлечение. Може би лекотата на общуването между човек и изкуствен интелект е приемлива или дори за предпочитане пред обърканите реалности на истинската любов, се чудим, докато гледаме героя на Хоакин Финикс да се разхожда сам по претъпкан плаж, камерата на телефона му наднича от джоба на ризата му, усмихнат, защото е толкова щастлив със своята любовница с ИИ.
Разбира се, до края на филма изкуственият интелект се е оттеглил в някакво друго ниво на съществуване, оставяйки хората, с всичките си разхвърляни човешки нужди, отново да се грижат един за друг.
„Да бъдеш приятел с AI ще бъде много по-лесно, отколкото да създаваш връзки с човешки същества“, пише редакторът на Wired Брайън Барет в скорошно есе за филма. „Това не означава, че е по-добре. Понякога е много по-лошо.
— Клеър Дъфи и Брайън Фънг от CNN допринесоха за репортажите.
