Трябва ли да се страхуваме от пробудения изкуствен интелект?
Представете си кратка история от златния век на научната фантастика, нещо, което ще се появи в списание Pulp през 1956 г. Нашето заглавие е „Истината Двигател“, а историята предвижда бъдеще, в което компютрите, тези тромави неща от пода до тавана, стават достатъчно мощни, за да насочват хората към отговорите на всеки въпрос, който могат да зададат, от столицата на Боливия до най-добрия начин за мариноване на пържола.
Как ще завърши една такава история? С някакво разкриване, без съмнение, на таен план, който се крие зад обещанието за всеобхватно знание. Например, може би има Truth Engine 2.0, по-интелигентен и по-креативен, който всеки няма търпение да се сдобие с него. И тогава група дисиденти откриват, че версия 2.0 е фанатична и луда, че Двигателят току-що е подготвял хората за тоталитарно промиване на мозъци или неволно изчезване.
Този полет на фантазия е вдъхновен от собствената версия на нашето общество на Truth Engine, оракулът на Google, който наскоро представи Gemini, последният участник в голямата надпревара с изкуствен интелект.
Не стана отнема много време на потребителите да забележат някои ... странности с Gemini. Най-забележителната беше борбата му да представи точни изображения на викинги, древни римляни, бащи-основатели на Америка, случайни двойки през 1820-те години в Германия и различни други демографски данни, обикновено характеризиращи се с по-блед цвят на кожата.
помолен да види изображение на Норман Рокуел, казаха им, че могат да видят снимки на Владимир Ленин, но не и на Адолф Хитлер, и отказаха, когато поискаха изображения, изобразяващи групи, определени като бели (но не и други раси).Nate Silver съобщава, че получава отговори, които изглежда следват „политиката на средния член на Надзорния съвет на Сан Франциско“. Тим Карни от The Washington Examiner откри, че Близнаците биха имали основания да нямат деца, но не и да имат голямо семейство; той отказа да даде рецепта за гъши дроб поради етични съображения, но обясни, че канибализмът е проблем с много нюанси на сивото.
Описвайки този вид резултати като „ събуди A.I.” не е обида. Това е техническо описание на това, което доминиращата търсачка в света реши да пусне.
присъединете се към певицата Граймс, някогашната любовница на несъбудения милиардер, в удивлението на това, което се появи от измъчения алгоритъм на Gemini, третирайки резултатите като „шедьовър на изпълнителското изкуство, ” „блестяща звезда на корпоративния сюрреализъм.”Третата реакция разглежда двете предходни снимки и казва, добре, много зависи от това къде смятате, че ИИ. отива. Ако целият проект остане свръхзаредена форма на търсене, генератор на средни есета и безкрайни еднократни разсейвания, тогава всеки опит да се използват неговите правомощия за налагане на фанатичен идеологически дневен ред вероятно просто ще бъде погребан под цялата утайка.
Но това не е мястото, където архитектите на нещо като Gemini смятат, че работата им отива. Те си въобразяват, че изграждат нещо почти божествено, нещо, което може да бъде изцяло Truth Engine — решавайки проблеми по начини, които дори не можем да си представим — или в противен случай може да стане наш господар и наследник, правейки всичките ни въпроси остарели.
Колкото по-сериозно приемате това мнение, толкова по-малко забавно става изживяването на Близнаци. Поставянето на властта за създаване на чатбот в ръцете на глупаци и комисари е забавен корпоративен гаф. Даването на силата за призоваване на полубог или второстепенен демон в ръцете на глупаци и комисари изглежда е по-вероятно да завърши по същия начин като много научнофантастични приказки: нещастно за всички.
The Times се ангажира да публикува на редактора. Бихме искали да чуем какво мислите за тази или някоя от нашите статии. Ето няколко . А ето и нашия имейл: .
Следвайте секцията за мнение на New York Times относно , , и .
