Вежливые слова, как «пожалуйста» и «спасибо», которыми пользователи сопровождают запросы к ChatGPT, обходятся OpenAI в миллионы долларов ежегодно из-за дополнительной обработки данных. Об этом заявил генеральный директор компании Сэм Альтман в соцсети X, сообщает Tom's Hardware.
Вежливость в чатах с ChatGPT стоит OpenAI $50 млн в год
► Подписывайтесь на телеграмм-канал «Минфина»: главные финансовые новости
Масштаб затрат
«Согласно оценкам, вежливые фразы стоят OpenAI около $137 000 ежедневно, или $50 миллионов в год», — пишет Tom's Hardware. Эти издержки появляются из-за большего количества токенов (единиц текста), которые обрабатывает модель. Каждый токен нуждается в вычислительных ресурсах, а вежливые слова добавляют к запросам 5−10% лишних токенов.
Альтман считает эти расходы оправданными, потому что такое общение делает взаимодействие с искусственным интеллектом более человечным.
Энергетическая цена ИИ
«В 2024 году Goldman Sachs сообщил, что один запрос к ChatGPT потребляет примерно в 10 раз больше электроэнергии, чем поисковый запрос Google», — указывает Tom's Hardware. По оценкам банка, один запрос в ChatGPT тратит около 2,9 Вт·час против 0,3 Вт·ч у Google. С учетом 8 млрд ежедневных запросов в ИИ в 2024 году это создает значительную нагрузку.
Комментарии - 1
усі фрази ввічливості можна автоматично ігнорувати
написати алгоритм окремий і виключити їх з обробки