Моделите с изкуствен интелект, подобно на капитализма, се обслужват най-добре със съвест

Представете си кола, която няма да разреши на лидера да надвиши ограничаването на скоростта. Звучи задоволително просто, само че въпреки всичко няма огромно търсене на машина, която лишава моралните решения от потребителя. Дори моделът „ Sloth “ на Tesla, който се подчинява на ограничаването на скоростта, не е задължителен; потребителите на нейните самоуправляващи се коли също могат да се насладят на „ Лудия Макс “.

В света на ИИ някои компании считат, че клиентите биха предпочели артикули с авансово конфигуриран морал. Вземете Anthropic, чийто чатбот Claude е подготвен да „ има положителни полезности “. Това прави Anthropic неизвестен в някои среди. Министерството на защитата на Съединени американски щати стачкува против ограничавания, които биха забранили самонасочени смъртоносни удари или всеобщо следене на жители - спор, който в петък се насочи към с напрежение опълчване.

Междувременно противниците се пробват да подкопаят доверието на Anthropic в сигурността преди всичко, което тя демонстрира посредством „ конституция “, която споделя на Клод да дава приоритет на сигурността, нравственос и угодливост в този ред. Сам Алтман от OpenAI назова компанията „ властническа “. Илон Мъск, създател на xAI и Grok chatbot, го назова „ мизантропски “ поради това, което съгласно него е користолюбие към белите мъже, наред с други.

Клиентите интересуват ли ги? В края на краищата същинският мотор на растежа на Anthropic, който съставлява към 80 % от приходите, е продажбата на принадлежности на корпоративни консуматори, фокусирани основно върху успеваемостта и облагата. Дали изкуственият разсъдък ще натисне нуклеарния бутон, както допускат откриватели от Кралския лицей, от време на време е от малко директно значение за такива клиенти.

Инвеститорите сигурно не считат, че етичните стилове на Anthropic са спънка. Компанията преди малко събра пари на стойност 350 милиарда $ и може да се опита да стане обществена по-късно тази година. Ефективността на Claude Code, неговия асистент по програмиране, оказа помощ да се съборят $1 трилион от общата стойност на софтуерните акции на S&P 500 тази година. Твърдението на Anthropic, че Клод може да кодира на COBOL, муден език, употребен в ИТ мейнфреймите, понижи пазарната капитализация на IBM с 30 милиарда $ за един ден.

Има една област, в която честността на бота има значение през днешния ден: халюцинациите. Петър Гостев от екипа за оценка на изкуствения разсъдък Arena разгласява „ малоумен бенчмарк “, който тества дали моделите провокират безсмислени въпроси или просто дават отговор с повече нелепости. Най-добър резултат на Anthropic; някои от OpenAI бяха измежду най-лошите. Дори тогава това може да има повече общо с качеството на разбора на модела, в сравнение с с присъщите му възгледи за истинността.

Преминаването към агентен AI – ботове, които освен оказват помощ, само че фактически извършват задания и упражняват преценка – ще увеличи залозите. Тъй като изкуственият разсъдък става все по-човешки и ролята му в компанията става все по-висша, методът, по който той реагира на комплицирани провокации и спорове, ще има по-голямо значение. Кога е по-добре да игнорирате команда? Кога преследването на краткосрочна цел може да докара до дълготрайни проблеми? Кога е добре да кажете на шефа да го „ бутне “?

За положително или за неприятно, това в действителност не се разграничава от това, което фирмите търсят в своите чиновници. За по-малко сериозни и по-обусловени от процеса работни места работодателите търсят служащи, които съблюдават разпоредбите. На висши равнища, където дейностите на обособения човек могат да повлияят на цената на цялата компания, положителната преценка в необикновени обстановки става скъпа и постанова по-високо възнаграждение.

Разбира се, дали главният мироглед на компанията за „ етично “ ще подхожда на този на Anthropic, предстои на спор. Един ден един сътрудник ще бъде помолен да направи нещо неприятно за света, само че положително за облагата на компанията. Модел, който отдава преимущество на положителното държание, би трябвало да бъде по-ценен; в действителния корпоративен свят подобен, който цени още повече цената на акционерите, без подозрение би изчистил.