🤖Скільки енергії споживають ШІ-агенти?З початком ери ШІ-агентів споживання енергії центрами обробки даних стало критичною проблемою. Дослідники з KAIST вперше проаналізували, якими є обчислювальні витрати. Виявилося, що ШІ-агенти споживають у 136,5 раза більше енергії на один запит, ніж звичайний генеративний ШІ.Також ШІ-агенти неодноразово звертаються до LLM під час виконання задач, тому затримка відповіді зростає. Команда виявила, що:📍час відгуку може збільшуватися у 153,7 раза;📍графічні процесори залишаються в режимі очікування протягом 54,5 % загального часу виконання.У KAIST спрогнозували майбутній сценарій, за якого щодня генеруватиметься 13,7 млрд запитів ШІ-агентів (це обсяг, еквівалентний поточному пошуковому трафіку Google). За цим сценарієм попит на електроенергію в центрах обробки даних досягне приблизно 198,9 ГВт, що еквівалентно приблизно половині середнього споживання електроенергії в США.Майбутнє — за ШІ-агентами. Але їх використання має свою ціну. Тому наступний крок за оптимізацією ШІ-систем.#штаб_дослідження