Революция в эффективности ИИ: Влияние алгоритма L-Mul

среда, ноябрь 13, 2024 12:00 ночи
2,628

Быстрое развитие искусственного интеллекта (ИИ) привело к значительным достижениям в различных секторах, однако это имеет высокую экологическую цену из-за его большого потребления энергии. Модели ИИ, особенно те, которые используют нейронные сети, требуют значительной вычислительной мощности, что приводит к огромному потреблению электроэнергии. Например, запуск ChatGPT в начале 2023 года потреблял примерно 564 МВтч электроэнергии в день, что эквивалентно потребностям в энергии около 18 000 домохозяйств в США. Этот энергетический спрос в первую очередь обусловлен сложными операциями с плавающей запятой, необходимыми для вычислений нейронных сетей, что делает поиск энергоэффективных решений критически важным по мере увеличения сложности систем ИИ.

Вводим алгоритм L-Mul (умножение с линейной сложностью), революционное развитие, которое обещает значительно снизить энергетическую нагрузку, связанную с вычислениями ИИ. L-Mul работает, приближая умножения с плавающей запятой простыми целочисленными сложениями, которые могут быть интегрированы в существующие модели ИИ без необходимости тонкой настройки. Этот инновационный подход продемонстрировал замечательную экономию энергии, достигая до 95% снижения потребления энергии для поэлементных тензорных умножений и 80% для вычислений скалярного произведения. Важно отметить, что эта энергоэффективность не компрометирует точность моделей ИИ, что является значительным достижением в поиске устойчивого ИИ.

Последствия L-Mul выходят за рамки простой экономии энергии; он улучшает производительность моделей ИИ в различных приложениях, включая трансформерные модели и большие языковые модели (LLM). В таких бенчмарках, как GSM8k и задачи визуального вопросно-ответного взаимодействия, L-Mul превзошел традиционные форматы с плавающей запятой, такие как FP8, демонстрируя свой потенциал эффективно обрабатывать сложные вычисления. Поскольку спрос на ИИ продолжает расти, L-Mul выделяется как ключевое решение, которое не только решает энергетический кризис, связанный с ИИ, но и прокладывает путь к более устойчивому будущему в развитии технологий.

Related News

Hivello интегрируется с Nosana для повышения доходов от GPU и расширения возможностей DePIN cover
день назад
Hivello интегрируется с Nosana для повышения доходов от GPU и расширения возможностей DePIN
Hivello Holdings Ltd объявила о своей интеграции с сетью Nosana, что является значительным шагом, направленным на улучшение возможностей пассивного дохода для пользователей, использующих ресурсы GPU. Это партнерство особенно актуально, учитывая растущий спрос на децентрализованную мощность GPU, вызванный быстрым ростом приложений генеративного ИИ. Джастин Розенберг, генеральный директор Blockmate Ventures, подчеркнул, что эта интеграция не только заполнит критический дефицит в децентрализованных вычислениях, но и увеличит участие узлов GPU, позволяя пользователям получать более высокие доходы от своих инвестиций. Сотрудничество с Nosana позволяет Hivello использовать одну из самых прибыльных децентрализованных сетей физической инфраструктуры (DePIN) для вычислений на основе GPU. Теперь пользователи могут вносить свою неиспользуемую мощность GPU для поддержки обучения моделей ИИ и разработки программного обеспечения, тем самым максимизируя свои доходы. Эта интеграция упрощает процесс для пользователей, позволяя им без труда подключать свои ресурсы и извлекать выгоду из растущей децентрализованной экосистемы без необходимости в обширных технических знаниях. Доменик Кароса, соучредитель и председатель Hivello, подчеркнул преобразующий потенциал децентрализованной инфраструктуры, заявив, что интеграция с Nosana является шагом к тому, чтобы сделать вычисления на основе GPU более доступными и масштабируемыми. Поскольку Hivello продолжает расширять свои предложения, он стремится дать пользователям возможность участвовать в ландшафте DePIN и получать вознаграждения за свои вклады. Этот стратегический шаг не только увеличивает возможности заработка, но и поддерживает рост децентрализованных приложений, ставя Hivello на передний план развивающегося технологического ландшафта.
Hivello интегрирует Nosana для улучшения возможностей пассивного дохода cover
день назад
Hivello интегрирует Nosana для улучшения возможностей пассивного дохода
Blockmate Ventures объявила о значительной интеграции между своим инвестиционным проектом Hivello Holdings и сетью Nosana, направленной на улучшение возможностей пассивного дохода для пользователей. Это сотрудничество сосредоточено на использовании вычислительных ресурсов на базе GPU, которые пользуются высоким спросом в области искусственного интеллекта (AI) и разработки программного обеспечения. Nosana признана одной из ведущих платформ в области децентрализованных физических инфраструктурных сетей (DePIN), позволяя пользователям Hivello вносить свой неиспользуемый GPU в децентрализованную экосистему. Ожидается, что это партнерство увеличит участие узлов GPU и предоставит пользователям автоматизированные возможности заработка через агрегирование вычислений. По словам Доменика Каросы, соучредителя и председателя Hivello, эта интеграция является важным шагом к тому, чтобы сделать вычисления на базе GPU более доступными и выгодными. Партнерство с Nosana не только увеличивает потенциал заработка для пользователей, но и поддерживает рост децентрализованной инфраструктуры. Поскольку приложения генеративного AI продолжают набирать популярность, ожидается, что спрос на децентрализованную мощность GPU будет расти, что делает эту интеграцию своевременной и полезной для пользователей Hivello, стремящихся получить более высокую доходность от своих ресурсов GPU. Интеграция с Nosana создаст новый поток пассивного дохода для владельцев GPU, дополнительно позиционируя Hivello на растущем рынке инфраструктуры AI. С улучшенными возможностями автоматизированного агрегирования вычислений пользователи могут легко подключать свою неиспользуемую мощность GPU и максимизировать свои доходы, внося вклад в инфраструктуру, поддерживающую обучение моделей AI и разработку программного обеспечения. Этот стратегический шаг соответствует миссии Hivello упростить участие в сетях DePIN, облегчая процесс заработка пассивного дохода для всех без необходимости в обширных технических знаниях.
Theta Labs сотрудничает с Национальным университетом Канвона для улучшения исследований в области ИИ cover
2 дня назад
Theta Labs сотрудничает с Национальным университетом Канвона для улучшения исследований в области ИИ
Theta Labs недавно расширила свои партнерские отношения в области исследований ИИ, пригласив Национальный университет Канвона в свою децентрализованную сеть GPU Theta EdgeCloud. Это сотрудничество стало значимой вехой, так как Национальный университет Канвона стал 23-м академическим клиентом Theta EdgeCloud. Партнерство направлено на улучшение возможностей исследований в области ИИ, достигая впечатляющей степени использования GPU, превышающей 85% по всей глобальной сети Theta, наряду с более чем 230 миллионами TFUEL, заблокированными операторами узлов Elite Booster. Платформа EdgeCloud уже поддерживает различные предприятия и учебные заведения, включая команды НХЛ и известные университеты, тем самым укрепляя свою роль в продвижении исследований в области ИИ и реальных приложений. Профессор Кёнгпил Кан, возглавляющий Лабораторию аналитики данных и машинного интеллекта (DAMI) в Национальном университете Канвона, специализируется на обработке естественного языка, машинном обучении и добыче данных. Лаборатория DAMI сосредоточена на исследованиях в области ИИ в крупном масштабе, изучая такие области, как тонкая настройка больших языковых моделей (LLMs), решения по машинному обучению для конкретных областей и аналитика на основе ИИ в таких областях, как социальные науки и медицинский ИИ. Сотрудничество с Theta EdgeCloud предоставит лаборатории доступ к гибридной платформе облачных и крайних вычислений GPU, позволяя исследователям проводить инновационные эксперименты и разрабатывать передовые приложения ИИ. По мере развития партнерства как профессор Кан, так и Митч Лю, соучредитель и генеральный директор Theta Labs, выражают энтузиазм по поводу потенциала этого сотрудничества. Лю подчеркивает важность расширения инфраструктуры GPU для удовлетворения растущего спроса при сохранении рентабельности. Цель на 2025 год включает в себя увеличение клиентской базы в десять раз, достижение более 95% использования GPU и блокировку более 2 миллиардов TFUEL через операторов узлов элитного края. Это партнерство не только улучшает возможности Лаборатории DAMI, но и укрепляет позицию Theta Labs в области децентрализованной облачной инфраструктуры для ИИ и машинного обучения.
CUDIS запускает функцию Энергетического Журнала для улучшения отслеживания благополучия cover
3 дня назад
CUDIS запускает функцию Энергетического Журнала для улучшения отслеживания благополучия
CUDIS недавно запустил версию 1.3.10 своего приложения, представив инновационную функцию под названием Энергетический Журнал. Эта новая функциональность позволяет пользователям записывать свои ежедневные уровни энергии и настроения в блокчейне, создавая постоянную запись, которая может значительно улучшить исследования настроений и алгоритмы личного благополучия. Отслеживая уровни энергии, пользователи могут получить представление о своем психическом и физическом состоянии, что может привести к положительным изменениям в их жизни. Данные надежно хранятся в цепочке, что обеспечивает их неизменность и способствует расширению экосистемы CUDIS. Отслеживание уровней энергии имеет важное значение для понимания психического здоровья, аналогично мониторингу качества сна и стресса. ИИ-агент CUDIS анализирует самостоятельно сообщенные данные вместе с другими показателями здоровья, предоставляя персонализированные инсайты и практические советы. Пользователей призывают регулярно и честно записывать свои уровни энергии и распознавать как положительные, так и отрицательные триггеры. Эта практика не только способствует самосознанию, но и позволяет пользователям зарабатывать внутриигровые награды, такие как участие в розыгрышах и баллы SALUS, стимулируя их поддерживать свою рутину отслеживания. CUDIS вознаграждает пользователей за их приверженность к записи уровней энергии, предлагая различные стимулы на основе последовательных отслеживаний. Например, 7-дневная последовательность приносит пользователям 2 участия в розыгрыше и 100 баллов SALUS, в то время как 60-дневная последовательность может принести 7 участий в розыгрыше и 1,000 баллов SALUS. Розыгрыши предоставляют гарантированную возможность выиграть захватывающие призы, включая NFT Edamame и призы в USDC. Кроме того, баллы SALUS могут быть обменены в маркетплейсе CUDIS и связаны с аирдропами для ранних пользователей во время предстоящего события генерации токенов CUDIS (TGE). Этот уникальный подход не только повышает вовлеченность пользователей, но и способствует более здоровому образу жизни с помощью технологий блокчейна.
Закон о данных: катализатор новой экономики данных cover
4 дня назад
Закон о данных: катализатор новой экономики данных
Предстоящий Закон о данных, который вступит в силу 12 сентября 2025 года, представляет собой значительный сдвиг в том, как данные доступны, используются и обмениваются в ЕС. Эта законодательная инициатива направлена на разрушение существующих изоляторов данных, предоставляя потребителям и бизнесу право собственности и контроля над своими данными. Европейская комиссия ожидает, что Закон о данных будет способствовать созданию новой экономики данных, стоимость которой, по прогнозам, составит 270 миллиардов евро к 2028 году. Для потребителей это означает, что они наконец получат доступ к данным, генерируемым их устройствами, в то время как производители IoT столкнутся с новыми обязанностями информировать пользователей о генерации данных и правах доступа в момент продажи. Применение Закона о данных является важным аспектом, который вызывает вопросы у потребителей и разработчиков. Каждое государство-член ЕС должно интегрировать Закон о данных в свое национальное законодательство до установленного срока, включая установление штрафов за несоблюдение. Например, проект предложения Финляндии предполагает штрафы, соответствующие GDPR, позволяя наложение штрафов до 100 000 евро и до 4% от глобального оборота компании. Другие страны, такие как Нидерланды, также рассматривают значительные штрафы за нарушения, что гарантирует, что Закон о данных не является лишь теоретической основой, а практическим регулированием с реальными последствиями за несоблюдение. Закон о данных также направлен на создание равных условий для всех, обозначая крупных технологических компаний как 'стражей ворот', которым запрещено получать доступ к данным третьих лиц в рамках Закона. Это регулирование предназначено для предотвращения монополизации нового ландшафта данных этими доминирующими игроками, что позволяет меньшим предприятиям и проектам Web3 эффективно конкурировать. Новые технологии, особенно ИИ и агенты ИИ, могут получить огромные преимущества от Закона о данных, так как он открывает доступ к машинно-читаемым данным от подключенных устройств. Streamr, с его технологией, соединяющей поставщиков данных в реальном времени и подписчиков, готов содействовать этой новой экономике данных, преодолевая разрыв между системами ИИ и источниками данных в реальном времени, и прокладывая путь для инновационных приложений в различных отраслях.
PowerPod Революционизирует Зарядку Электромобилей с Помощью AI Технологий cover
9 дней назад
PowerPod Революционизирует Зарядку Электромобилей с Помощью AI Технологий
Поскольку рынок электромобилей (EV) продолжает расширяться, оптимизация инфраструктуры зарядки становится решающей для удовлетворения потребностей пользователей при минимизации затрат и нагрузки на сеть. Традиционные методы зарядки часто приводят к проблемам с пиковыми нагрузками и колебаниями цен, что делает необходимым внедрение инновационных решений. PowerPod стремится решить эти проблемы с помощью зарядных станций на базе AI, которые интеллектуально настраиваются в зависимости от данных в реальном времени, включая условия электросети, цены на электроэнергию и предпочтения пользователей. Этот подход не только повышает эффективность, но и предоставляет экономически выгодное решение как для пользователей, так и для поставщиков энергии. AI-модель, разработанная PowerPod, включает различные входные данные для оптимизации стратегий зарядки. Она анализирует данные зарядной станции, уровни нагрузки сети, поведение пользователей и экологические факторы, такие как погодные условия. Используя нейронные сети Long Short-Term Memory (LSTM), модель предсказывает будущий спрос на энергию, позволяя зарядным станциям планировать зарядку электромобилей в самые экономически выгодные и удобные для сети моменты. Кроме того, используется глубокое обучение с подкреплением (DQN) для динамической настройки тарифов на зарядку в зависимости от условий в реальном времени, обеспечивая пользователям наиболее эффективный опыт зарядки при минимизации затрат. Архитектура интеллектуальной зарядной системы PowerPod на базе AI состоит из сбора данных, обработки AI, выполнения и непрерывного обучения. Этот инновационный подход был протестирован в городской сети электромобилей, дав обнадеживающие результаты. В будущем PowerPod планирует интегрировать технологии блокчейн для безопасного выставления счетов, предлагать персонализированные режимы зарядки и сотрудничать с технологиями автономного вождения для создания самооперационных зарядных станций. Эти достижения знаменуют собой трансформационный сдвиг в ландшафте зарядки электромобилей, прокладывая путь к более устойчивому будущему в децентрализованной экосистеме Web3.
Подпишитесь на последние новости и обновления DePIN