Microsoft да класира „безопасността“ на AI модели, продавани на облачни клиенти

Microsoft, ще стартира да класира модели на изкуствен интелект въз основа на тяхната успеваемост на сигурността, защото софтуерната група се стреми да построи доверие с Cloud Clients, защото им продава AI оферти от харесванията на XAI на Openai и Elon Musk.

Sarah Bird, Microsoft’s head of Responsible AI, said the company would soon add a “safety ” category to its “model leaderboard ”, a feature it launched for developers this month to rank iterations from a range of providers including China’s DeepSeek and France’s Mistral.

The leaderboard, which is accessible by tens of thousands of clients using the Azure Foundry developer platform, is expected to influence which AI Моделите и приложенията се закупуват посредством Microsoft.

Microsoft понастоящем класира три индикатори: качество, цена и пропускателна дарба, което е какъв брой бързо моделът може да генерира излаз. Бърд сподели пред The ​​Financial Times, че новата ранглиста за сигурност ще подсигурява опциите на „ хората могат непосредствено да пазарят и схващат “, защото вземат решение кои да закупят.

Решението за включване на индикатори за сигурност идва, защото клиентите на Microsoft се борят с евентуалните опасности, подбудени от нови модели на AI за отбрана на данни и отбрана на поверителността, изключително когато са разгърнати като самостоятелни „ сътрудници “, които могат да работят без човешки контрол.

Новият индикатор за сигурност на Microsoft ще се основава на личния си индикатор за токсигенни токсигенни, който мери имплицитната тирада на омразата и Центърът за прокси за прокси за всеобщо заличаване на AI. Последният прави оценка дали един модел може да се употребява за злонамерени цели, като да вземем за пример създаване на биохимично оръжие.

Класирането дава опция на потребителите да имат достъп до справедливи индикатори при избора от азбучник от повече от 1900 модели AI, тъй че да могат да създадат осведомен избор на кой да се употребяват.

„ Съветите на водачите на сигурността могат да оказват помощ на предприятията да се пресекат през шума и да стесните благоприятни условия за понижаване “, споделя Каси Козирков, съветник и някогашен основен академик за решение в Гугъл. „ Истинското предизвикателство е разбирането на взаимни отстъпки: по-висока успеваемост на каква цена? По-ниска цена на какъв риск? “

Наред с Amazon и Гугъл, групата в Сиатъл се смята за един от най-големите „ хиперкалери “, които дружно преобладават на облачния пазар.

Microsoft също се нарежда като агностична платформа за генеративни AI, подписвайки покупко-продажби за продажба на модели от XAI и антропични, съперници за пускане на Openai, които се застъпват за почти Щатски долар 14B в вложения.

Миналия месец Microsoft съобщи, че ще стартира да предлага на фамилията на XAI Grok Models при същите търговски термини като OpenAI.

Този ход пристигна, макар версията на алармата за повишение на Грок, когато „ неоторизирана трансформация “ на неговия код докара до него неведнъж, като се базира на „ бял ​​геноцид “ в Южна Африка, когато дава отговор на поръчки на уеб страницата на обществените медии X. X. съобщи, че е въвел нова политика за мониторинг, с цел да се избегнат бъдещи случаи.

„ Моделите идват в платформата, има да се употребява в платформата, има да се употребява в платформата, има да се употребява в платформата, има да се употребява в платформата, има да се употребява в платформата, има да се употребява в платформата, има да се употребява в платформата, има да се употребява в платформата, има да се употребява в размер на платформата, има ли индикатори да го схванат “, сподели Бърд.  

There is no global standard for AI safety testing, but the EU’s AI Act will enter force later this year and compel companies to conduct safety tests.

Some model builders including OpenAI are dedicating less time and money to identify and mitigate risks, the FT previously reported citing several people familiar with the start-up’s safety процеси. Стартирането съобщи, че е идентифицирала успеваемостта си, без да нарушава сигурността.

Bird отхвърли да разяснява тестванията за сигурност на Openai, само че съобщи, че е невероятно да се достави първокачествен модел, без да се влага „ голяма сума “ в оценката и че процесите се автоматизират.

Microsoft през април също започва „ AI Read Tealing Agent “, който автоматизира процеса на тестване на компютърни стратегии посредством пускане на офанзиви, с цел да разпознава уязвимостите. „ Просто посочвате риска, уточнявате компликацията на атаката… и по-късно той е настъпил на системата ви “, сподели Бърд.

Съществуват терзания, че без съответни сътрудници за контрол на AI могат да подхващат неоторизирани дейности, отварящи притежателите до отговорности.

„ Рискът е, че водачите могат да приспиват лицата, вземащи решения в подправено възприятие за сигурност “, сподели Козирков. „ Показателите за сигурност са насочна точка, а не зелена светлина. “