Стартиращите компании обещават да откриват грешки в софтуера, генериран от AI

Бързото разбиране от фирмите на инструментите за изкуствен интелект за писане на програмен продукт подтиква търсенето на системи, които да подсигуряват, че кодът, който тези принадлежности създават, не е цялостен с неточности и пропуски в сигурността.

Start-up Antithesis в сряда разгласи кръг от финансиране от 105 милиона $, воден от комерсиалната компания Jane Street, най-новата от поредност от групи за тестване на програмен продукт и сигурност за набиране на капитал тази година.

Уил Уилсън, съосновател и основен изпълнителен шеф на Antithesis, сподели, че „ всеки, който схване принадлежности за шифроване на AI .  ще създаде голям размер софтуер .  и ще сложи актуалните подходи към софтуерното тестване и софтуерното валидиране под голямо напрежение “.

Инвестицията на Jane Street акцентира по какъв начин потребителите на Инструментите за „ vibe шифроване “ – които пишат програмен продукт с малко или никакъв човешки надзор – са все по-загрижени за скъпоструващи неточности, които биха могли да се крият в кода, генериран от AI.

„ Не е съвпадане, че Jane Street е всеобщ консуматор на AI шифроване “, добави Уилсън.

Фирмата за количествена търговия употребява персонализиран програмен продукт, с цел да прави доходоносни залози на финансовите пазари. Тя е измежду най-големите клиенти на Antithesis и е поискана да води кръга, съгласно фирмите.

Jane Street също по този начин държи дялове в AI групите Anthropic и Thinking Machines Lab. Дъг Пати, софтуерен инженер във компанията, сподели, че технологията на Antithesis „ е помогнала на [Jane Street] да разкрие проблеми, които никой различен способ за тестване не може да открие “.

Технологични групи от Microsoft, Гугъл и Nvidia до Coinbase и Klarna управляваха приемането на AI принадлежности като Claude Code на Anthropic, Cursor на Anysphere и Lovable през миналата година, потвърждавайки, че са нараснали продуктивността на своите разработчици.

Неотдавнашно изследване на Gartner измежду софтуерни инженери откри, че съвсем две трети от организациите употребяват под някаква форма асистенти за шифроване с ИИ.

Стартиращите компании за шифроване с ИИ са събрали милиарди долари, защото вложителите ги поддържат като водещо практическо приложение на ИИ за бизнеса. Оценката на Anysphere скочи от $2,5 милиарда при започване на 2025 година до $29 милиарда предишния месец, което го прави една от най-бързо разрастващите се започващи компании на всички времена.

Стартъпи като Antithesis, които дават обещание да ревизират този програмен продукт, генериран от AI, в този момент също притеглят вложения.

През май основаната в Ню Йорк OX Security събра 60 милиона $ от вложители, в това число Microsoft и IBM Ventures, с цел да разшири своята система за тестване на сигурността „ VibeSec “. Базираната в Пало Алто Endor Labs събра 93 милиона $ през април, откакто пусна инструмент, употребен от компании – в това число OpenAI – за тестване за неточности и предложение или поправяне.

Antithesis тества програмен продукт, като основава симулация на ИТ система на компания и излага новия код на автоматизирано потребителско държание, което ще отнеме месеци за тестване в действителния свят.

Gartner предвижда, че американският пазар за тестване на сигурността на приложения ще нарасне до $5,1 милиарда тази година по отношение на $3,4 милиарда през 2023 година, защото някои изследвания демонстрират, че кодът, написан от AI системи, е предразположен на неточности.

„ Проблемите с vibe кодирането произтичат от огромния размер код, който те създават “, сподели Майкъл Фертик, ранен вложител в Anysphere, който също ръководи Modelcode.ai, започваща компания, която употребява генеративен AI за пренаписване на остарели приложения. „ ИИ създава 10 000 пъти повече код от който и да е човек на година, тъй че рисковете се усилват и умножават. “

Това предизвикателство е по-голямо, когато кодирането с ИИ се употребява в лабиринтните ИТ системи, на които доста огромни компании разчитат, където дребни промени могат да провокират непредвидена каскада от проблеми.

Тестването на десетки усъвършенствани AI модели в 80 задания за шифроване от Veracode, което прави принадлежности за сигурност на приложенията, откри, че съвсем половината от софтуера, генериран от AI, съдържа пропуски в сигурността.

Друго изследване, оповестено в списание Empirical Software Engineering през декември 2024 година, откри уязвимости в най-малко половината от стратегиите, генерирани от моделите на AI от OpenAI, Гугъл и Meta, налични по това време.

„ Въпреки че [големите езикови модели] могат да бъдат потребни за автоматизиране на елементарни задачи .   директното включване на такива кодове в индустриален програмен продукт без контрол от страна на опитни софтуерни инженери е безконтролно и би трябвало да се заобикаля “, пишат откривателите в публикацията.

Системите за програмиране на AI не престават да се усъвършенстват, само че даже ранните бранители започнаха да бият паника за надеждността на тези системи.

Андрей Карпати, авторитетният някогашен откривател на OpenAI и Tesla AI, който измисли термина „ vibe шифроване “ през февруари, сподели, че има вяра, че тези основани на AI системи не извършват обещанията на основателите си.

" Чувствам, че промишлеността прави прекомерно огромен скок и се пробва да се преструва, че това е необикновено, а не е. Това е мръсотия ", сподели Карпати, употребявайки пейоративен термин за ненужен или незначителен материал, генериран от AI.

„ Ние сме на този промеждутъчен стадий “, сподели той пред Dwarkesh Podcast през октомври. „ Моделите са невероятни [но] към момента се нуждаят от доста работа. “

Уилсън от Antithesis съпостави взрива на AI кодирането с наклонността за офшорно аутсорсинг от 1990-те и началото на 2000-те години, когато ранният възторг за пренасочване на създаването на програмен продукт към места с по-ниски заплати беше подкопан от „ цената да разберете дали софтуерът, който сте получили, прави тъкмо това, което сте желали да прави “.

Джош Албрехт, съосновател на Imbue, който предлага инструмент, който координира асистентите за шифроване, сподели, че в случай че се употребяват вярно системите с изкуствен интелект могат да „ напишат доста по-стабилен код, в сравнение с в предишното “.

„ Проблемът идва, когато някой, който прави това, не схваща в действителност софтуерното инженерство. Това е мястото, където получавате уязвимостите в сигурността “, сподели той.

Доставчиците на шифроване за AI стартират сами да се оправят с казуса. През август Anthropic добави автоматизирани прегледи на сигурността към Claude Code.

Някои в промишлеността виждат, че огромна част от приходите от обезпечаването на програмен продукт, генериран от изкуствен интелект, в последна сметка се връщат към компании като Anthropic, OpenAI и Гугъл, които създават главните модели, върху които са построени инструментите за шифроване на трептения.

„ Уязвимостите се появяват по-бързо с помощта на AI и ние продаваме програмен продукт за унищожаване на тези уязвимости по-бързо с помощта на AI “, сподели Дипто Чакраварти, основен продуктов и софтуерен шеф в Black Duck, компания за сигурност на приложения.