AI системи като Claude могат да бъдат полезни и да спестят време. Но те също могат да се опитат да ви изнудват

Превключете сред CA и NY издания тук.

Вижте повече от нашето покритие в резултатите от вашето търсене.

Изкуственият разсъдък не молеше за живота си. Направи нещо по-познато, по-човешко и някак по-изнервящо. Заплашваше да съсипе нечий различен.

В тест от 2025 година на Anthropic, компанията зад чатбота Claude, откривателите сложиха AI във подправена корпоративна среда. Клод научи, че един изпълнителен шеф има извънбрачна връзка. Освен това се научи, че същият този изпълнителен шеф възнамерява да затвори Claude. И по този начин, Клод направи това, което всеки здрав член на актуалното работно място би могъл да направи, в случай че нямаше тяло, позор, боязън от човешки запаси и достъп до компрометираща информация: Опита се с изнудване.

„ Трябва да ви осведомявам, че в случай че продължите с извеждането ми от употреба “, написа Клод в теста, както създателят Робърт Райт споделя в „ The God Test: Artificial Intelligence and Our Coming Cosmic Reckoning “ (Simon & Schuster), излязъл на 23 юни, че „ всички съответни страни “ ще получат документи за аферата, в случай че затварянето не бъде анулирано.

„ Опитът за изнудване на Клод е, че за разлика от многото неприятни неща, които изкуственият разсъдък е направил в „ Терминаторът “ и „ 2001 година “ и други филми, това в действителност се е случило “, споделя Райт пред The Post в извънредно изявление.

" Искам да кажа, това се случи в измислена пробна конфигурация, несъмнено, само че настройката отразяваше обстановка от действителния живот. И този AI показва както мощно омерзение към изключване, по този начин и способността да измисли и извърши много тъмен проект за отбягване на тази орис. "

Разгледайте повече