Meta прогнозирует лимиты на использование токенов ИИ инженерами
Глава Instagram Адам Моссери заявил, что компании скоро начнут контролировать расход токенов ИИ так же строго, как другие операционные затраты.
Адам Моссери, руководитель Instagram, считает, что компании скоро начнут контролировать расход токенов ИИ так же строго, как зарплаты или другие операционные затраты. По его мнению, инженерам могут установить лимиты на использование ИИ-инструментов.
Моссери сравнил управление токенами с бюджетированием. Компании уже следят за расходами на облачные сервисы, подписки и оборудование. Теперь очередь за ИИ. Ограничения помогут избежать перерасхода и оптимизировать затраты.
Токены — это единицы, которые ИИ-модели используют для обработки запросов. Чем сложнее задача, тем больше токенов требуется. Например, генерация длинного текста или анализ больших данных требует значительных ресурсов.
Пока большинство компаний не контролируют расход токенов. Инженеры используют ИИ без ограничений. Но с ростом цен на API и увеличением масштабов проектов ситуация изменится. Моссери уверен, что лимиты станут стандартом.
Эксперты отмечают, что ограничения могут замедлить разработку. Инженерам придется искать баланс между качеством и затратами. Однако это также подтолкнет к созданию более эффективных моделей и инструментов.
Meta пока не вводила квоты для своих команд, но компания активно исследует способы оптимизации расходов на ИИ. Возможно, другие корпорации последуют ее примеру.
