AI токените изненадват някои компании — и предизвикват големи сметки

Тъй като изкуственият разсъдък (AI) се усилва от доста компании, съгласно известията някои са изправени пред потрес от стикери, защото им свършват AI „ токени “, което може да докара до спомагателни разноски.

В отчет от Bloomberg предходната седмица се споделя, че Uber лимитира потреблението на AI от чиновниците, откакто е изгорил целия си AI за 2026 година бюджет за шифроване единствено за четири месеца и това е част от възходящия брой медийни известия в Съединени американски щати за компании, които са били сюрпризирани от разноските за потребление на AI токени по-бързо от предстоящото.

AI токените се употребяват в огромни езикови модели (LLM) като ChatGPT и Claude на Anthropic и работят като нещо като измервател, който доставчиците на AI употребяват, с цел да таксуват бизнеса въз основа на потреблението на инструмента благоприятни условия.

Резултатът може да значи изненадващи разноски за бизнеса, които могат бързо да се натрупат.

„ Виждаме, че се случват доста от тези неточности. Така че те (бизнесите) купуват лиценза, започват пилотния план, само че в действителност не трансформират държанието си “, споделя Патрик Фарар, основен изпълнителен шеф на AI за канадци и началник на AI в DMZ, софтуерен развъдник и започваща екосистема в Торонто Metropolitan University.

" Те не вършат промени в работния развой в организацията и не образоват хора в организацията. Това е мястото, където стартирате да виждате, в действителност, тези разноски се натрупват. "

Това идва и откакто неотдавна оповестената национална тактика за ИИ на Отава има за цел да подтиква растежа на бизнеса в Канада, в това число посредством внедряване на ИИ в бизнес работните потоци и образование на служащи и студенти.

И по този начин, по какъв начин тъкмо вършиме ИИ токените работят?

Какво съставляват AI токените?

Повечето консуматори и компании имат достъп до няколко безвъзмездни версии на AI модели, които се отличават с понижени или лимитирани благоприятни условия. За фирмите обаче доста се нуждаят от корпоративни лицензи, с цел да употребяват AI модели в комерсиална активност и могат да получат избран брой токени посредством договорите си или да заплащат, до момента в който вървят.

Ако компаниите или потребителите изчерпят токените, тогава те биват таксувани за всеки спомагателен изразходван токен.

Получавайте изключителни национални вести

Farrar споделя, че типична подкана на AI модел като ChatGPT, която обгръща изречение или две и генерира къс отговор, може да употребява част от токен на дума, до момента в който по-дълъг диалог може да употребява 1000 токени.

Това, споделя той, може да коства половин цент до два цента, до момента в който по-сложните поръчки, които включват визуализации и дизайни, могат да бъдат фрапантно по-скъпи.

„ Сега виждате, че бизнесите фактически извършват действителни (AI) работни потоци всеки ден. Дори да извършите крачка напред, виждате компании да употребяват тези агентски принадлежности, както се назовават в този момент, тъй че тези принадлежности, които работят самостоятелно “, споделя Farrar.

„ И по този начин, този тип сътрудници, както се назовават, или този тип самостоятелни принадлежности към този момент могат да работят през целия ден или всеки час или цяла седмица и цялостен месец. И по този начин, че могат да изгорят над 50 до стотици пъти повече токени в един тип диалог даже. Ето за какво може би финансите в този момент стартират да виждат сметката това. “

Канадските компании се пробват да вкарват нововъведения с AI, където е допустимо, като в същото време се пробват да останат ефикасни с потреблението на бюджети за AI токени.

„ Ние в действителност поискахме доста организации да подтикват потреблението на AI, да стартират да си сътрудничат с AI инструментите, тъй че да могат най-малко да усилят знанията си и да бъдат подготвени за някои от по-големите идни промени, само че с това пристигнаха някои много обилни разноски “, споделя Ани Veillet, сътрудник в PwC Канада с фокус върху AI инженерството и практиките за инженеринг на данни.

„ В взаимозависимост от моделите, които са били определени и предоставени на техните чиновници или крайни консуматори, разбирането на разноските, които ще дойдат в края на потреблението, не е безусловно добре разбрано. “

Veillet споделя, че доста компании употребяват тези AI принадлежности, с цел да рационализират задания, които се възприемат като досадни или които са относително лесни за правене, само че лишават доста време.

Когато се внедрят добре, тези принадлежности могат да работят добре за фирмите, само че в случай че се създадат в огромен мащаб, тези, които не наблюдават своите AI токени, могат бързо да се изчерпят и да получат огромна сметка.

„ Сега има доста повече защитни средства към него. „ За ежедневните си задания, апелирам, използвайте тези модели, които са доста по-малко скъпо “, споделя тя.

„ За някои по-сложни, задълбочени работи към момента можете и ние ви насърчаваме да работите с някои от огромните езикови модели, които са малко по-скъпи, тъй като чакаме по-голяма възвръщаемост на инвестицията. “