Исследователи из инженерного колледжа Университета штата Орегон (OSU) представили микрочип, который может вдвое снизить энергопотребление при работе с большими языковыми моделями, такими как Gemini и GPT-4. Это важный шаг на пути к снижению энергопотребления современных приложений ИИ.
О разработке объявили Рамин Джавади, руководитель лаборатории смешанных сигнальных схем и систем OSU, и Теджасви Ананд, доцент кафедры электротехники, на конференции IEEE Custom Integrated Circuits, которая проходила в Бостоне.
Широко известно, что обработка и передача больших объёмов данных, необходимых для работы языковых моделей, приводят к огромному потреблению энергии центрами обработки данных. Поскольку скорость передачи данных постоянно растёт, а технологии энергоэффективности отстают, нагрузка на электросети центров обработки данных растёт в геометрической прогрессии. Это стало очень серьёзной проблемой для крупных операторов ИИ.
Г-н Джавади объясняет, что самая большая проблема связана с искажениями: при высокой скорости передачи данных качество сигнала часто ухудшается и его необходимо восстанавливать. Обычно для этого используются эквалайзеры — специальные микросхемы, которые успешно устраняют искажения, потребляя при этом значительное количество энергии.
Новый микрочип предлагает альтернативу: он использует встроенный классификатор на основе искусственного интеллекта, который обучен распознавать и исправлять ошибки в передаваемом сигнале. Этот метод позволяет восстанавливать данные с большей точностью, потребляя при этом меньше энергии.
«По сути, для экономии энергии при работе с ИИ мы используем эти принципы ИИ на чипе, обучая встроенный классификатор распознавать и исправлять ошибки», – говорит г-н Джавади.
Проект уже получил поддержку от Агентства перспективных оборонных исследовательских проектов при Министерстве обороны США, а также от Исследовательской корпорации полупроводников и Центра повсеместных подключений. В настоящее время исследовательская группа работает над следующей версией чипа, которая, как ожидается, будет ещё более энергоэффективной.
Искусственный интеллект займет лидирующие позиции в области энергосбережения
Исследователи из инженерного колледжа Университета штата Орегон (OSU) представили микрочип, который может вдвое снизить энергопотребление при работе с большими языковыми моделями, такими как Gemini и GPT-4. Это важный шаг на пути к снижению энергопотребления современных приложений ИИ.
О разработке объявили Рамин Джавади, руководитель лаборатории смешанных сигнальных схем и систем OSU, и Теджасви Ананд, доцент кафедры электротехники, на конференции IEEE Custom Integrated Circuits, которая проходила в Бостоне.
Широко известно, что обработка и передача больших объёмов данных, необходимых для работы языковых моделей, приводят к огромному потреблению энергии центрами обработки данных. Поскольку скорость передачи данных постоянно растёт, а технологии энергоэффективности отстают, нагрузка на электросети центров обработки данных растёт в геометрической прогрессии. Это стало очень серьёзной проблемой для крупных операторов ИИ.
Г-н Джавади объясняет, что самая большая проблема связана с искажениями: при высокой скорости передачи данных качество сигнала часто ухудшается и его необходимо восстанавливать. Обычно для этого используются эквалайзеры — специальные микросхемы, которые успешно устраняют искажения, потребляя при этом значительное количество энергии.
Новый микрочип предлагает альтернативу: он использует встроенный классификатор на основе искусственного интеллекта, который обучен распознавать и исправлять ошибки в передаваемом сигнале. Этот метод позволяет восстанавливать данные с большей точностью, потребляя при этом меньше энергии.
«По сути, для экономии энергии при работе с ИИ мы используем эти принципы ИИ на чипе, обучая встроенный классификатор распознавать и исправлять ошибки», – говорит г-н Джавади.
Проект уже получил поддержку от Агентства перспективных оборонных исследовательских проектов при Министерстве обороны США, а также от Исследовательской корпорации полупроводников и Центра повсеместных подключений. В настоящее время исследовательская группа работает над следующей версией чипа, которая, как ожидается, будет ещё более энергоэффективной.
Источник: Ассоциация «Глобальная энергия»
👉 Подписывайтесь на Elec.ru. Мы есть в Телеграм, ВКонтакте и Одноклассниках
