Какво е AI „дестилация“?
Тази седмица Anthropic съобщи, че съперници от Китай крадат нейната AI технология, като провеждат по този начин наречените дестилационни офанзиви върху нейните модели.
Компанията сподели, че три китайски AI групи, в това число начинаещия в промишлеността DeepSeek, са извлекли информация по този метод от нейния известен програмен продукт Claude.
Докато практиката беше известна и преди, Anthropic изложи това, което твърдеше, че е акция в „ индустриален мащаб “ за „ нелегално копаене “ на нейните благоприятни условия.
Това от своя страна провокира по-широка полемика за заплахите от дестилацията на AI, която стига до сърцевината на сигурността на технологията, съперничеството сред Съединени американски щати и Китай и отбраната на интелектуалната благосъстоятелност — където американските AI компании също са упреквани, че печелят от работата на други.
Как работи?
Дестилацията е практиката за образование на по-малки AI модели върху резултатите от по-напреднали. Това разрешава на разработчиците да съкратят трудоемкия и безценен развой на създаване през цялото време.
След това те могат да репликират системи, създадени от гранични AI компании като Anthropic или OpenAI, употребявайки по-малко усъвършенствани чипове, и да ги предложат на бизнеса и потребителите на по-ниска цена.
Дестилацията по своята същина не е незаконна процедура: тя нормално се употребява в промишлеността, където фирмите употребяват свои лични огромни езикови модели като „ учители “ към по-малък модел „ възпитаник “.
Тези студентски модели нямат цялостните благоприятни условия на LLMs, само че техните притежатели може по-късно да ги предложат на клиенти, които желаят понижени и по-евтини версии.
ИИ дестилацията притегли необятно внимание предходната година, откакто OpenAI упрекна DeepSeek, че употребява техниката за създаване на мощни и ефикасни модели на ИИ, основани на системи с отворен код, пуснати от съперниците Meta и Alibaba. Новината за пробива изплаши вложителите и провокира ликвидация на американски софтуерни акции.
Миналата година основателят на ChatGPT съобщи, че е намерил доказателства, че DeepSeek е употребявал личните си модели, с цел да образова собствен личен съперник с отворен код.
Дискусията към дестилацията идва, когато китайски групи за ИИ се борят с широкообхватния надзор върху износа на усъвършенствани чипове от Съединени американски щати, което ги подтиква да одобряват системи, които употребяват по-малко изчислителна мощ.
Защо е в новините?
Anthropic в понеделник разгласява обява в блог, в която се твърди, че е идентифицирала „ акции в промишлен мащаб “ от DeepSeek, MiniMax и Moonshot, три от най-известните компании за изкуствен интелект в Китай, за „ нелегално добиване Възможностите на Claude.
Той сподели, че е разпознал 24 000 лъжливи акаунта, които са генерирали повече от 16 милиона обмена с Claude, потвърждавайки, че фирмите са ги употребявали за образование и възстановяване на личните си модели.
Anthropic твърди, че единствено „ интервенцията “ на DeepSeek включва повече от 150 000 обмена. В него се споделя, че една от техниките, употребявани от DeepSeek, е да се помоли моделът да изложи вътрешните претекстове зад приключен отговор и да го напише малко по малко, като всъщност генерира данните от „ веригата на мисълта “, нужни за образование на модели в мащаб.
Anthropic сподели, че е разпознал повече от 3,4 милиона обмена, употребявани от Moonshot AI за добиване на ноу-хау от Claude, и над 13 милиона, употребявани от MiniMax.
Всяка от трите акции беше ориентирана към това, което Anthropic назова „ най-диференцираните качества на Клод: агентско размишление, потребление на принадлежности и шифроване “.
Компанията предизвести, че дестилацията разрешава на задгранични лаборатории, в това число тези, които са под контрола на Китайската комунистическа партия, да затворят конкурентното преимущество, което контролът върху износа на Съединени американски щати е предопределен да резервира.
Кражба на интелектуална благосъстоятелност ли е?
Дестилацията е в легална сива зона.
Няма закони, регулиращи практиката, само че всички компании имат условия за политика за почтена приложимост във връзка с техните модели. Така че, в случай че една компания откри, че даден консуматор е основал 30 000 акаунта, да вземем за пример, тя може да прекъсне техния достъп.
Въпреки че огромните софтуерни компании в Съединени американски щати не са показали тъкмо какъв брой харчат за образование на огромни модели, евентуално е в стотици милиони долари. Ако противници като DeepSeek съумеят да се възползват от това познание, това на доктрина може да значи огромни количества изгубени доходи.
След шума и вика на Anthropic, някои критици тази седмица показаха, че той и други разработчици на LLM сами са построили своите модели върху интелектуалната благосъстоятелност на други.
„ Anthropic е отговорен за кражба на данни за образование в голям мащаб и трябваше да заплати многомилиардни съглашения за тяхната кражба “, написа на X Илон Мъск, който има AI инструмента Grok. „ Това е просто факт. “
В отговор на обявата на Мъск, един консуматор на X разгласява наново: „ Сякаш самичък си написал данните за образованието си. “
Какво е по-широкото влияние върху AI?
Когато извикаха широкомащабна филтрация тази седмица, Anthropic съобщи, че практиката може да докара до разпространяването на технологии за изкуствен интелект, на които липсват защитни ограничения против нечестна приложимост, в това число от държавни и недържавни участници.
Въпреки че граничните компании с изкуствен интелект разполагат с парапети, с цел да лимитират тези благоприятни условия на изкуствения разсъдък, Anthropic предизвести, че той може да се употребява за „ създаване на биологични оръжия или осъществяване на злонамерени кибернетични действия “.
„ Моделите, построени посредством противозаконна филтрация, е малко евентуално да запазят тези защитни ограничения, което значи, че рисковите качества могат да се популяризират с доста отбрани, отстранени напълно “, компанията твърди.
Но с малко правни средства, Anthropic, OpenAI и техните връстници може да открият, че конят към този момент е закопчал конюшнята.
