Світові корпорації, зокрема Accenture, Uber та Walmart, почали впроваджувати системи контролю за використанням штучного інтелекту через стрімке і незаплановане зростання витрат на оплату ШІ-токенів під час рутинної роботи працівників із документами.
Протягом останніх двох років великі компанії активно інтегрували штучний інтелект у свої робочі процеси. Співробітників заохочували застосовувати чат-боти, генератори коду та ШІ-помічники для підвищення продуктивності. Проте зараз бізнес зіткнувся з новою проблемою — непередбачуваним зростанням рахунків за використання цих технологій.
Приховані витрати на ШІ: досвід компанії Accenture
Як повідомляє незалежне видання 404 Media, у розпорядження журналістів потрапив аудіозапис внутрішньої наради консалтингового гіганта Accenture. Під час зустрічі керівництво обговорювало різке збільшення витрат на так звані токени — базові одиниці обліку ресурсів, які використовують моделі штучного інтелекту.
Якщо раніше ШІ сприймався як стандартний офісний інструмент із фіксованою щомісячною абонентською платою, то реальна модель оплати виявилася іншою. Що частіше працівники звертаються до складних моделей для аналізу великих масивів даних, то вищими стають підсумкові витрати компанії.
Які завдання «спалюють» найбільше токенів
Особливу увагу на нараді Accenture приділили буденним операціям, які користувачі вважають простими. Наприклад, конвертація PDF-документів у формат Markdown або створення презентацій потребують значних ресурсів мовних моделей. Для людини це виглядає як одна дія, але алгоритм змушений посторінково аналізувати, структурувати та перегенерувати весь обсяг інформації, що призводить до перевитрат токенів.
Головні споживачі ШІ — не програмісти
За словами керівника напрямку агентного ШІ в Accenture Джастиса Квака, внутрішня статистика спростувала поширений міф про те, що основними користувачами технології є розробники програмного забезпечення. Найбільше навантаження на бюджет створюють звичайні офісні працівники, які щодня оптимізують роботу з текстами, звітами, електронними листами та презентаціями.
Реакція ринку та розробка інструментів контролю
З аналогічними викликами вже зіткнулися й інші великі гравці. Компанія Uber раніше була змушена обмежити доступ до деяких ШІ-інструментів після перевищення очікуваних лімітів бюджету. Заходи щодо контролю за активністю використання ШІ-сервісів впроваджують і в мережі Walmart.
У зв’язку з переходом бізнесу від простих чат-ботів до складних агентних систем, прогнозувати витрати стає дедалі важче. Через це в Accenture розпочали розробку спеціалізованого продукту під назвою Token IQ. Цей інструмент призначений для моніторингу та аналізу фінансових витрат на ШІ в режимі реального часу, що дозволить фінансовим директорам оцінити реальну економічну ефективність технології.
Через велику кількість ботів ми закрили коментарі на сайті. Прокоментувати статтю та долучитися до обговорення ви можете в нашій спільноті в Telegram-каналі.
Більше новин в телеграмі
