Революция в эффективности ИИ: Влияние алгоритма L-Mul

среда, ноябрь 13, 2024 12:00 ночи
2,643

Быстрое развитие искусственного интеллекта (ИИ) привело к значительным достижениям в различных секторах, однако это имеет высокую экологическую цену из-за его большого потребления энергии. Модели ИИ, особенно те, которые используют нейронные сети, требуют значительной вычислительной мощности, что приводит к огромному потреблению электроэнергии. Например, запуск ChatGPT в начале 2023 года потреблял примерно 564 МВтч электроэнергии в день, что эквивалентно потребностям в энергии около 18 000 домохозяйств в США. Этот энергетический спрос в первую очередь обусловлен сложными операциями с плавающей запятой, необходимыми для вычислений нейронных сетей, что делает поиск энергоэффективных решений критически важным по мере увеличения сложности систем ИИ.

Вводим алгоритм L-Mul (умножение с линейной сложностью), революционное развитие, которое обещает значительно снизить энергетическую нагрузку, связанную с вычислениями ИИ. L-Mul работает, приближая умножения с плавающей запятой простыми целочисленными сложениями, которые могут быть интегрированы в существующие модели ИИ без необходимости тонкой настройки. Этот инновационный подход продемонстрировал замечательную экономию энергии, достигая до 95% снижения потребления энергии для поэлементных тензорных умножений и 80% для вычислений скалярного произведения. Важно отметить, что эта энергоэффективность не компрометирует точность моделей ИИ, что является значительным достижением в поиске устойчивого ИИ.

Последствия L-Mul выходят за рамки простой экономии энергии; он улучшает производительность моделей ИИ в различных приложениях, включая трансформерные модели и большие языковые модели (LLM). В таких бенчмарках, как GSM8k и задачи визуального вопросно-ответного взаимодействия, L-Mul превзошел традиционные форматы с плавающей запятой, такие как FP8, демонстрируя свой потенциал эффективно обрабатывать сложные вычисления. Поскольку спрос на ИИ продолжает расти, L-Mul выделяется как ключевое решение, которое не только решает энергетический кризис, связанный с ИИ, но и прокладывает путь к более устойчивому будущему в развитии технологий.

Related News

CUDOS Intercloud: Пионер устойчивых вычислений для ИИ cover
2 дня назад
CUDOS Intercloud: Пионер устойчивых вычислений для ИИ
CUDOS Intercloud является пионером новой эпохи устойчивых вычислений в рамках Альянса Искусственного Суперинтеллекта. Компания стремится переопределить ландшафт инфраструктуры ИИ, сосредоточив внимание на зеленых вычислительных практиках. 24 апреля 2025 года CUDOS примет участие в мероприятии Peace One Day #Ai2Peace, где генеральный директор Мэтт Хокинс и вице-президент по продажам Пит Хилл обсудят важность распределенной инфраструктуры ИИ для содействия мирному и устойчивому будущему. Эта инициатива подчеркивает необходимость создания справедливой и открытой экосистемы ИИ, которая придает приоритет экологической ответственности. Традиционные облачные вычисления оказывают значительное воздействие на окружающую среду, так как один центр обработки данных мощностью 1 МВт потребляет миллионы киловатт-часов электроэнергии и огромные объемы воды ежегодно. Углеродный след таких централизованных инфраструктур огромен, о чем свидетельствуют данные Google, согласно которым их операции потребили 27 тераватт-часов энергии только в 2024 году. CUDOS Intercloud решает эти неэффективности, используя существующие центры обработки данных, оптимизируя их мощность без необходимости в дополнительных ресурсах. Этот подход не только снижает затраты, но и минимизирует углеродный след, связанный с развитием новой инфраструктуры. CUDOS Intercloud привержен устойчивому развитию в своей основе, работая на 100% возобновляемой энергии и обеспечивая, чтобы его кластеры, ориентированные на GPU, использовали устойчивые практики. Компания уже сэкономила значительные средства, максимизируя эффективность существующих центров обработки данных и перенаправляя потраченную энергию на продуктивное использование. Присоединившись к таким инициативам, как программа Stripe Climate и выделив ресурсы на проекты по удалению углерода, CUDOS не просто делает заявления о устойчивом развитии, но активно работает над более зеленым будущим. Эта приверженность позиционирует CUDOS как жизнеспособную альтернативу традиционным крупным технологиям, продвигая распределенный и экологически чистый подход к облачным вычислениям.
Theta Labs и Houston Rockets запускают маскота с искусственным интеллектом 'ClutchBot' cover
2 дня назад
Theta Labs и Houston Rockets запускают маскота с искусственным интеллектом 'ClutchBot'
Theta Labs, известный поставщик децентрализованной облачной инфраструктуры, объединился с Houston Rockets для представления инновационного маскота с искусственным интеллектом под названием "ClutchBot." Этот цифровой маскот предназначен для повышения вовлеченности фанатов, предоставляя информацию о команде в реальном времени, включая расписание игр, детали билетов, статистику игроков и информацию о месте проведения. Фанаты могут взаимодействовать с ClutchBot через официальный сайт Houston Rockets, задавая вопросы, такие как "Когда следующая игра?" или "Сколько чемпионатов выиграли Rockets?" ИИ обучен на обширных данных о Rockets и НБА, что обеспечивает точные и своевременные ответы. Сотрудничество между Theta Labs и Houston Rockets направлено на создание более погружающего опыта для фанатов, который выходит за рамки традиционных методов взаимодействия. Используя передовую технологию EdgeCloud от Theta, ClutchBot представляет собой значительный шаг вперед в том, как спортивные команды могут поддерживать непрерывное, персонализированное взаимодействие со своими фанатами. Эта инициатива не только улучшает цифровой опыт для фанатов, но и устанавливает новый стандарт вовлеченности фанатов в профессиональном спорте, позволяя болельщикам чувствовать себя более связанными со своими любимыми командами. Запланированный на запуск осенью 2025 года, ClutchBot будет доступен фанатам по всему миру, что станет важным моментом на пересечении спорта и технологий ИИ. Как отметила президент Houston Rockets Гретчен Шейрр, это партнерство позволит команде предложить более увлекательный и персонализированный опыт через их цифровые платформы. С поддержкой гигантов отрасли и надежной децентрализованной инфраструктурой, Theta Labs продолжает лидировать в области ИИ и медиа, прокладывая путь для будущих инноваций в спортивных технологиях.
Искусственный интеллект: Следующий рубеж в спортивной фанатской культуре cover
4 дня назад
Искусственный интеллект: Следующий рубеж в спортивной фанатской культуре
Искусственный интеллект (ИИ) делает значительные успехи в различных отраслях, но, по словам Митча Лю, генерального директора Theta Labs, сектор спортивной фанатской культуры представляет собой особенно многообещающий рубеж. В отличие от других областей, где ИИ в основном автоматизирует задачи, спорт предлагает уникальную возможность для ИИ улучшить опыт фанатов. С помощью структурированных данных, таких как статистика, расписания и показатели производительности, ИИ может анализировать и представлять информацию так, чтобы она резонировала с фанатами. Циклическая природа спортивных сезонов позволяет непрерывно собирать данные и тестировать функции, что делает эту среду идеальной для интеграции ИИ. Недавние исследования показывают, что ИИ уже трансформирует спортивный ландшафт благодаря улучшенной аналитике и персонализированным взаимодействиям с фанатами. Например, программа NFL Digital Athlete использует машинное обучение для оценки данных игроков и прогнозирования рисков травм, что не только защищает спортсменов, но и обогащает понимание игры фанатами. Кроме того, команды NHL, такие как Vegas Golden Knights и New Jersey Devils, сотрудничали с Theta Labs для создания чат-ботов на базе ИИ, которые помогают фанатам с вопросами о играх, билетах и новостях команды. Эти инновации улучшают опыт фанатов, предоставляя своевременную и точную информацию через интерактивные платформы. Потенциал ИИ в спорте выходит за рамки традиционных лиг и охватывает киберспорт, где цифровые среды предлагают еще большие возможности для вовлечения. ИИ может способствовать гиперперсонализированным опытам, ориентированным как на случайных, так и на преданных фанатов, предоставляя индивидуальные инсайты на основе данных о реальном времени игры. Однако спортивным организациям необходимо внедрять эти технологии продуманно, обеспечивая их дополнение, а не замену основным эмоциональным элементам фанатства. Поскольку ИИ продолжает развиваться, спортивная индустрия стоит на пороге трансформационной эпохи, с потенциалом переопределить, как фанаты взаимодействуют со своими любимыми командами и улучшить общий опыт потребления спорта.
Исследовательская лаборатория ИИ Стэнфорда сотрудничает с Theta EdgeCloud для улучшения исследований cover
8 дней назад
Исследовательская лаборатория ИИ Стэнфорда сотрудничает с Theta EdgeCloud для улучшения исследований
Исследовательская лаборатория ИИ доцента Стэнфордского университета Эллен Витерцик собирается использовать гибридную облачную инфраструктуру Theta EdgeCloud для улучшения своих исследований в области дискретной оптимизации и алгоритмического рассуждения. Это сотрудничество позволит лаборатории использовать децентрализованный GPU EdgeCloud, который предлагает масштабируемую и высокопроизводительную вычислительную мощность по конкурентоспособной цене. Ожидается, что интеграция этой технологии значительно ускорит обучение моделей ИИ и облегчит проведение передовых исследовательских инициатив. Другие известные учебные заведения, такие как Сеульский национальный университет, KAIST и Университет Орегона, также используют инфраструктуру EdgeCloud для повышения продуктивности своих исследований в области ИИ. Эллен Витерцик специализируется на машинном обучении, алгоритмическом рассуждении и пересечении вычислений и экономики. Ее исследовательская лаборатория сосредоточена на нескольких ключевых областях, включая применение больших языковых моделей (LLM) для оптимизации, алгоритмического выбора контента и обобщения алгоритмов кластеризации на различных размерах наборов данных. Используя ресурсы Theta EdgeCloud, лаборатория стремится исследовать, как ИИ может улучшить процессы принятия решений в экономических контекстах, таких как стратегии ценообразования и целевой маркетинг. Гибридная GPU инфраструктура Theta EdgeCloud разработана для обеспечения вычислительной мощности по запросу, которая является как масштабируемой, так и экономически эффективной, что делает ее идеальным решением для академических исследований. Сотрудничество с лабораторией Витерцик иллюстрирует растущую тенденцию интеграции передовых технологий облачных вычислений в академические исследования, особенно в области ИИ. Это партнерство не только обещает продвинуть исследовательские цели Витерцик, но и способствует более широкому ландшафту исследований в области ИИ в различных учреждениях по всему миру.
Сеть Phala и Streamr объединяют усилия для революции в области децентрализованного ИИ cover
15 дней назад
Сеть Phala и Streamr объединяют усилия для революции в области децентрализованного ИИ
Сеть Phala и Streamr объявили о захватывающем новом партнерстве, направленном на революцию в области децентрализованного ИИ. Это сотрудничество объединяет надежную вычислительную инфраструктуру Phala с децентрализованными возможностями потоковой передачи данных в реальном времени от Streamr. Цель заключается в создании нового класса ИИ-агентов, которые могут обрабатывать живые данные безопасно и конфиденциально, без зависимости от централизованных посредников. Объединив эти технологии, видение децентрализованного ИИ в реальном времени становится реальностью, открывая путь для инновационных приложений в различных секторах. Streamr работает на децентрализованной сети, специально разработанной для потоковой передачи данных в реальном времени, используя архитектуру peer-to-peer и модель публикации/подписки. Эта структура позволяет производителям данных транслировать потоки, которые могут быть мгновенно использованы приложениями и узлами, значительно снижая задержку и повышая устойчивость. Интеграция технологии блокчейн в Streamr поддерживает монетизацию и контроль доступа через его родной токен DATA, способствуя созданию надежной открытой экономики данных для приложений Web3. Это партнерство подчеркивает общую миссию по созданию более открытого и контролируемого пользователями веба, отказываясь от зависимости от традиционных облачных услуг. Сотрудничество использует защищенные вычислительные среды (TEE) Phala и Phat Contracts, которые обеспечивают безопасные, зашифрованные анклавы для вычислений ИИ. Это гарантирует, что даже владелец машины не может получить доступ к данным или логике, создавая прочную основу для проверяемых вычислений ИИ. Объединив потоковую передачу данных в реальном времени от Streamr с безопасным вычислительным слоем Phala, разработчики могут создавать ИИ-системы, которые обрабатывают живые данные, сохраняя конфиденциальность и сопротивляясь цензуре. Это партнерство не только демонстрирует потенциал децентрализованной инфраструктуры, но и открывает новые возможности для разработчиков создавать инновационные решения ИИ, соответствующие основным ценностям Web3 — конфиденциальности, прозрачности и децентрализации.
Фарткойн: Удивительный рост мемкойна в AI-секторе Solana cover
17 дней назад
Фарткойн: Удивительный рост мемкойна в AI-секторе Solana
В постоянно меняющемся мире криптовалют немногие токены привлекли столько внимания, как Фарткойн, мемкойн на базе Solana. Несмотря на свой начальный статус, Фарткойн быстро зарекомендовал себя на платформах социальных сетей, особенно в Twitter, где его воспринимают как сигнал к покупке со стороны опытных инвесторов. Этот мемкойн, родом из Беларуси, быстро занял лидирующие позиции в экосистеме Solana, опередив многих своих более известных конкурентов. С рыночной капитализацией в 455,2 миллиона долларов, Фарткойн теперь контролирует 32,1% от общей рыночной капитализации AI-токенов на Solana, которая составляет примерно 1,1148 миллиарда долларов по 772 проектам. Рост Фарткойна особенно примечателен, учитывая, что у него нет типичной полезности или технологических заявлений, связанных со многими AI-токенами. Вместо этого он использовал текущий энтузиазм вокруг искусственного интеллекта, чтобы занять значительную нишу на рынке. Его результаты затмили результаты таких устоявшихся токенов, как #ai16z, при этом рыночная капитализация Фарткойна превышает рыночную капитализацию ближайшего конкурента почти на 250%. Этот неожиданный успех ставит под сомнение будущее AI-токенов на блокчейне Solana, предполагая потенциальный сдвиг интереса инвесторов к более легким, мемо-ориентированным проектам вместо более традиционных технологически насыщенных решений. Привлекательность Фарткойна среди институциональных инвесторов, часто называемых "умными деньгами", является ключевым фактором его успеха. Эти инвесторы привлекаются уникальной позицией Фарткойна на рынке, где его мем-культура и вовлеченность сообщества оказались мощными активами. Поскольку Фарткойн продолжает привлекать значительные инвестиции и внимание, его будущее остается неопределенным, но его текущая траектория указывает на то, что он зарекомендовал себя как серьезный игрок в AI-секторе на Solana. В конечном итоге Фарткойн иллюстрирует непредсказуемую природу мира криптовалют, где даже мемкойн может доминировать в сегменте рынка, традиционно зарезервированном для более серьезных проектов.
Подпишитесь на последние новости и обновления DePIN