Google первой среди крупных технологических компаний раскрыла детальные данные о том, сколько ресурсов уходит на работу её ИИ-модели Gemini, сообщает El.kz со ссылкой на  Google cloud.

По новым расчётам, один запрос потребляет в среднем 0,24 ватт-часа энергии и около 0,26 миллилитра воды - это примерно пять капель. Для сравнения, по словам компании, такой запрос равен просмотру телевизора на протяжении девяти секунд.

До публикации Google оценки давались лишь на уровне предположений. Так, глава OpenAI Сэм Альтман в июне писал, что запрос к ChatGPT требует около 0,34 ватт-часа энергии.

Google объяснила, что традиционный способ подсчёта занижает показатели: если учитывать только работу графических процессоров, то запрос Gemini выглядит скромнее - всего 0,10 ватт-часа энергии, 0,02 грамма CO₂ и 0,12 миллилитра воды. Но собственная методика компании учитывает нагрузку и на центральные процессоры, оперативную память, системы охлаждения и даже простаивающие машины. В итоге получились более высокие, но, по мнению компании, более точные цифры: 0,24 ватт-часа, 0,03 грамма CO₂ и 0,26 миллилитра воды.

При этом в Google отмечают значительный прогресс: за последний год энергетический след медианного запроса Gemini сократился в 33 раза, а углеродный след - в 44 раза, при этом качество ответов выросло.

Чтобы сделать ИИ более «зелёным», инженеры используют целый ряд решений: повышение эффективности оборудования, гибридные алгоритмы, дистилляцию моделей и так называемое спекулятивное декодирование. Последний метод позволяет распределять нагрузку так, что больше запросов обрабатывается меньшим числом процессоров: сначала предсказания делает компактная модель, а затем их проверяет более крупная.

Ранее El.kz писал о том, как 90% разработчиков игр используют ИИ.