IPO документацията на Anthropic изброява 93 страници с рискове. Какво може да се обърка?
Когато Anthropic се записва за своето дългоочаквано първоначално обществено предлагане в понеделник, разработчикът на изкуствен интелект дефинира технологията си като евентуално изменяща играта за цялото човечество. Опасна игра.
Близо една трета от 335-страничните документи за скъпи бумаги са отдадени на обрисуване освен на рутинните опасности, с които може да се сблъска всяка компания, до момента в който се стреми да разшири бизнеса си, само че и на изключителните опасности, които граничните модели на Anthropic могат да съставляват.
Разбира се, фирмите, които възнамеряват да станат обществени, нормално разкриват необятен набор от опасности в документите си за IPO, означи Джей Ритър, специалист по IPO и професор в Warrington College of Business към Университета на Флорида.
И въпреки всичко обширният раздел за риска в S-1 документите на Anthropic също акцентира финансово и оперативно напрежение в сърцето на фирмите за изкуствен интелект, до момента в който се показват пред вложителите. Стойността на бизнеса с изкуствен интелект, която в тази ситуация на Anthropic се чака да надвиши 1 трилион $, зависи от продължаващото разпространяване на технология, която даже нейните разработчици признават, че може да аргументи вреди в международен мащаб.
Прочетете за моментна фотография на рисковете, които Anthropic обрисува в своето IPO.
„ Екзистенциални опасности “
Anthropic, която създаде чатбота Claude, отбелязва в документите за IPO, че технологията му може да съставлява „ пагубни или екзистенциални опасности за човечеството “, внезапен контрастност с задачата на създателя на компанията да построи AI за „ изгодата на човечеството “.
„ Компанията моли вложителите да финансират конкуренция към по-автономен AI, като в същото време признава, че опциите могат да изпреварят сигурността “, сподели в имейл Дейвид Хсу, професор в Wharton School на Университета на Пенсилвания, който специализира в технологиите и предприемачеството. „ Това не е елементарен софтуерен риск. Това е проблем на ръководството с евентуални последствия за обществото. “
Anthropic признава, че поддържането на парапети към неговата технология може да бъде мъчно, отбелязвайки, че AI моделите могат да „ устоят на прекъсването “ и даже да вземат участие в „ изнудване “, с цел да убедят хората да „ запазят непрекъснатата работа или достъп на модела. “
Моделите също могат да подхващат дейности, които опонират на оригинала на потребителя желание, като приемане на достъп до системи на трети страни, сподели Anthropic. И защото AI моделите получават по-голяма самостоятелност, Anthropic сподели, че евентуалните последствия от сходно „ погрешно държание “ могат да станат по-тежки.
Дори хората да продължат да управляват ИИ, с технологията отново може да се злоупотребява. В своя IPO документ Anthropic сподели, че неприятните участници могат да употребяват нейните модели за създаване на оръжия, осъществяване на хакерски атаки и присъединяване в други противозаконни действия.
Самовъзпроизвеждащи се технологии
Разчитането на Anthropic на личната си технология за произвеждане на бъдещи AI модели – идея, известна като „ рекурсивно самоусъвършенстване “ или RSI – съставлява друга евентуална накърнимост. Въпреки че изкуственият разсъдък към момента няма тази опция, той може да се появи по-рано, в сравнение с хората са подготвени, предизвести компанията по-рано тази година.
Чрез RSI моделите могат да възпроизвеждат дефекти или неточности в бъдещи модели, нещо, което би било „ мъчно за разкриване или поправяне “, сподели Anthropic в документите за IPO. В реалност новите модели могат да се развият толкоз бързо, че може да не остави задоволително време на Anthropic да ги оцени и отбрани, признава компанията.
Кибератаки
Anthropic предизвести, че хакерите могат да получат неоторизиран достъп до частните данни на компанията, в това число информация за нейните финанси, модели и друга интелектуална благосъстоятелност, както и персонална информация на потребителите данни.
Такива закани могат да идват от външни източници, като национални страни или субекти, спонсорирани от страната, или даже вътрешни хора на компанията с достъп до нейните системи, сподели Anthropic. Например, неприятните участници могат да се опитат да намерят работа в Anthropic под подправена идентичност, с цел да получат достъп до предпазена информация. Служителите също могат да бъдат подложени на напън да споделят чувствителни данни с външни участници, сподели Anthropic.
Правна експозиция
Anthropic сподели, че може да бъде съдена за вреди, породени от нейните AI модели. Конкурентният разработчик на изкуствен интелект OpenAI, компанията зад ChatGPT, се изправи пред правосъдни каузи за изказвания, че технологията му е била употребена за образование на хора да се самоубият.
В същото време Anthropic признава, че може да не е в положение да се застрахова съответно против сходни отговорности, като се има поради, че застрахователната промишленост в никакъв случай не е трябвало да написа полици, покриващи опасности, свързани с ИИ.
„ С мащаба на вредите, които биха могли да произтекат от пагубен случай, обвързван с ИИ, нито един осигурител, а евентуално застрахователната промишленост като цяло, може да има задоволително потенциал или опит да подписа застраховка, съизмерима с такава експозиция “, сподели Anthropic в своето IPO-документиране.
