Вашата употреба на AI може да има скрити разходи за околната среда
вижте всички тематики Връзка копирана! Следвайте
Всяка дума в подкана за AI се разделя на групи от цифри, наречени „ Токен IDS “ и се изпраща в солидни центрове за данни - някои по -големи от футболните полета - захранвани от въглища или растения за природен газ. Там купчините от огромни компютри генерират отговори посредством десетки бързи калкулации.
Целият развой може да отнеме до 10 пъти повече сила, в сравнение с постоянно търсене в Гугъл, съгласно постоянно представена оценка от Института за проучване на електроенергийната сила.
Свързана публикация
В допълнение, „ Smarter “ LLM с повече качества за разсъждения произвеждаха до 50 пъти повече въглеродни излъчвания, в сравнение с по -прости системи, с цел да отговорят на същия въпрос, оповестява изследването.
„ Това ни демонстрира компромис сред потреблението на сила и точността на успеваемостта на модела “, споделя Максимилиан Данер, докторска студент в Университета за приложни науки Hochschule München и първи създател на The Frontiers in Communication, оповестено в сряда.
Обикновено тези по -умни, по -енергийни интензивни LLM имат десетки милиарди повече параметри - пристрастията, употребявани за обработка на идентификатори на маркери - от по -малки, по -кратки модели.
Какво можете да извършите, с цел да намалите въглеродния си отпечатък
Сложните въпроси изискват повече сила частично заради продължителните пояснения, които доста модели AI са подготвени да дават, сподели Dauner. Ако поискате от AI чатбот да позволи въпрос за алгебра за вас, това може да ви преведе през стъпките, нужни, с цел да намерите отговора, сподели той.
„ AI изразходва доста сила, като е вежлив, изключително в случай че потребителят е вежлив, казвайки„ апелирам “и„ благодаря “, изясни Dauner. „ Но това просто прави отговорите им още по -дълги, изразходвайки повече сила за генериране на всяка дума. “
„ Моделите, характерни за дилемите, постоянно са доста по-малки и по-ефективни и също толкоз положителни при всяка характерна за подтекста задача “, изясни Лучиони.
Свързана публикация
Ако сте софтуерен инженер, който взема решение комплицирани проблеми с кодирането всеки ден, може да е нужен AI модел, подобаващ за шифроване. Но за междинния възпитаник в гимназията, който желае помощ при домашните работи, разчитането на мощни AI принадлежности е като потребление на нуклеарен дигитален калкулатор.
Когато е допустимо, Luccioni предлага да се върнете към съществени източници - онлайн енциклопедии и телефонни калкулатори - за осъществяване на елементарни задания.
Проучването отбелязва, че потреблението на сила може да варира според от близостта на потребителя до локалните енергийни мрежи и хардуера, употребен за осъществяване на AI модели.
Ето за какво откривателите са избрали да показват въглеродните излъчвания в границите на диапазон, сподели Dauner.
Освен това, доста компании за ИИ не споделят информация за потреблението на сила - или детайлности като размера на сървъра или техниките за оптимизация, които биха могли да оказват помощ на откривателите да оценят потреблението на сила, съобщи Шаулей Рен, доцент по електрическо и компютърно инженерство в Калифорнийския университет, Ривърсайд, който учи потреблението на вода на AI.
„ Не можете в действителност да кажете, че AI употребява приблизително толкоз доста сила или вода - това просто не е свястно. Трябва да разгледаме всеки обособен модел и по-късно (да проучим какво използва) за всяка задача “, сподели Рен.
Един от методите, по които AI фирмите могат да бъдат по -прозрачни, е посредством откриване на количеството въглеродни излъчвания, свързани с всяка подкана, предложи Dauner.
Свързана публикация
Източник: cnn.com