Революция в эффективности ИИ: Влияние алгоритма L-Mul

среда, ноябрь 13, 2024 12:00 ночи
2,546

Быстрое развитие искусственного интеллекта (ИИ) привело к значительным достижениям в различных секторах, однако это имеет высокую экологическую цену из-за его большого потребления энергии. Модели ИИ, особенно те, которые используют нейронные сети, требуют значительной вычислительной мощности, что приводит к огромному потреблению электроэнергии. Например, запуск ChatGPT в начале 2023 года потреблял примерно 564 МВтч электроэнергии в день, что эквивалентно потребностям в энергии около 18 000 домохозяйств в США. Этот энергетический спрос в первую очередь обусловлен сложными операциями с плавающей запятой, необходимыми для вычислений нейронных сетей, что делает поиск энергоэффективных решений критически важным по мере увеличения сложности систем ИИ.

Вводим алгоритм L-Mul (умножение с линейной сложностью), революционное развитие, которое обещает значительно снизить энергетическую нагрузку, связанную с вычислениями ИИ. L-Mul работает, приближая умножения с плавающей запятой простыми целочисленными сложениями, которые могут быть интегрированы в существующие модели ИИ без необходимости тонкой настройки. Этот инновационный подход продемонстрировал замечательную экономию энергии, достигая до 95% снижения потребления энергии для поэлементных тензорных умножений и 80% для вычислений скалярного произведения. Важно отметить, что эта энергоэффективность не компрометирует точность моделей ИИ, что является значительным достижением в поиске устойчивого ИИ.

Последствия L-Mul выходят за рамки простой экономии энергии; он улучшает производительность моделей ИИ в различных приложениях, включая трансформерные модели и большие языковые модели (LLM). В таких бенчмарках, как GSM8k и задачи визуального вопросно-ответного взаимодействия, L-Mul превзошел традиционные форматы с плавающей запятой, такие как FP8, демонстрируя свой потенциал эффективно обрабатывать сложные вычисления. Поскольку спрос на ИИ продолжает расти, L-Mul выделяется как ключевое решение, которое не только решает энергетический кризис, связанный с ИИ, но и прокладывает путь к более устойчивому будущему в развитии технологий.

Related News

VentureMind AI партнерствует с Theta EdgeCloud для улучшения возможностей ИИ и робототехники cover
день назад
VentureMind AI партнерствует с Theta EdgeCloud для улучшения возможностей ИИ и робототехники
В захватывающем развитии на пересечении ИИ и блокчейна VentureMind AI объявила о партнерстве с Theta EdgeCloud. Это сотрудничество направлено на использование децентрализованных ресурсов Theta с низкой задержкой для вычислений и потоковой передачи, чтобы улучшить возможности VentureMind AI. Интегрируя EdgeCloud, VentureMind AI сможет масштабировать свои инструменты ИИ, оптимизировать рендеринг видео и предлагать управление робототехникой в реальном времени, значительно улучшая свои предложения в таких секторах, как строительство и безопасность. Это партнерство является значительным шагом к созданию комплексной экосистемы, которая объединяет инновации ИИ с децентрализованными финансами и передовой робототехникой. VentureMind AI — это передовая платформа, которая позволяет пользователям создавать, чеканить и торговать инструментами ИИ в виде NFT, предоставляя уникальный уровень собственности и потенциала дохода. Платформа также включает в себя настраиваемый конструктор автономных агентов, позволяющий пользователям запускать токенизированные сообщества и управлять рыночной деятельностью. С момента своего создания в июне 2023 года EdgeCloud завоевала популярность как в академической, так и в корпоративной среде, с такими учреждениями, как Сеульский национальный университет, и компаниями, такими как GenAI search Liner, использующими ее инфраструктуру для продвижения исследований и приложений ИИ. С интеграцией Theta EdgeCloud VentureMind AI готова переопределить возможности в областях ИИ, робототехники и Web3. Партнерство обеспечит масштабируемые вычисления для инноваций в ИИ, надежное управление робототехникой, экономичную обработку видео и улучшенную интеграцию для NFT и автономных инструментов. Основанная Джерменом Анугвомом, VentureMind AI быстро эволюционировала от набора специализированных инструментов ИИ до мощной платформы, которая включает в себя технологии блокчейна и токеномики, позиционируя себя как лидера на развивающемся рынке Web3.
Революция в сельском хозяйстве с помощью технологий IoT cover
день назад
Революция в сельском хозяйстве с помощью технологий IoT
Интеграция технологий IoT в сельское хозяйство трансформирует этот сектор, позволяя фермерам принимать обоснованные решения на основе данных, которые повышают продуктивность и устойчивость. Ожидается, что мировой рынок умного сельского хозяйства достигнет 20 миллиардов долларов к 2026 году, что связано с растущим внедрением решений IoT на фермах. Эти технологии оптимизируют различные аспекты управления урожаем и скотом, помогая фермерам снижать затраты, одновременно улучшая урожайность и охрану окружающей среды. С увеличением числа устройств IoT они предлагают значительные преимущества, включая автоматизацию управления ресурсами и сбор данных в реальном времени по критическим факторам, таким как погодные условия и состояние почвы. Устройства IoT, такие как метеостанции и датчики почвы, играют ключевую роль в умном сельском хозяйстве. Метеостанции предоставляют важные данные о температуре, влажности и осадках, позволяя фермерам своевременно корректировать графики орошения и посадки. Датчики почвы предоставляют данные в реальном времени о уровнях влажности, оптимизируя использование воды и стратегии удобрения. Кроме того, ошейники для мониторинга скота обеспечивают проактивное управление здоровьем и местоположением животных. Автоматизируя орошение и распределение ресурсов на основе данных в реальном времени, фермеры могут экономить ресурсы и улучшать здоровье растений, что в конечном итоге приводит к увеличению прибыльности. Платформа Chirp повышает эффективность этих устройств IoT, интегрируя их в единую систему, управляемую с одной панели управления. Внедрение технологий блокчейн дополнительно укрепляет управление данными, обеспечивая безопасное, защищенное от подделок хранение и отслеживание огромных объемов информации, генерируемой устройствами IoT. Майнеры Chirp Blackbird обеспечивают дальнюю связь для этих устройств, облегчая надежную передачу данных на больших площадях без необходимости в индивидуальных интернет-соединениях. Эта бесшовная интеграция технологий IoT позиционирует Chirp как важного партнера для фермеров, позволяя им справляться с вызовами и использовать новые возможности в развивающемся аграрном ландшафте.
Theta сотрудничает с Сеульским национальным университетом для улучшения исследований в области ИИ cover
день назад
Theta сотрудничает с Сеульским национальным университетом для улучшения исследований в области ИИ
Theta объявила о значительном партнерстве с Сеульским национальным университетом (SNU), ведущим учебным заведением Южной Кореи, для улучшения исследований в области ИИ через свою платформу EdgeCloud. Это сотрудничество особенно выгодно для Лаборатории AIoT SNU, которой руководит доцент Хён-Син Ким, известный своим опытом в области Ambient AI и IoT систем. Партнерство направлено на ускорение исследований в таких областях, как инновации в области здравоохранения на основе ИИ и обработка данных в реальном времени, используя передовые ресурсы гибридного облака GPU Theta. SNU, основанный в 1946 году, признан за свои достижения в различных дисциплинах и постоянно занимает высокие позиции среди университетов Азии. С момента запуска EdgeCloud в июне Theta завоевала популярность как в академических кругах США, так и Кореи, сотрудничая с несколькими престижными учреждениями, включая Университет Орегона и KAIST. Лаборатория AIoT в SNU уже внесла значительный вклад в эту область, а профессор Ким возглавляет усилия, которые получили множество наград и высокоэффективных исследовательских грантов. Недавние достижения включают награды на крупных конференциях и конкурсах, демонстрируя приверженность лаборатории продвижению технологий ИИ и IoT. Интеграция инфраструктуры Theta ожидается, что дополнительно улучшит возможности лаборатории в разработке адаптивных моделей, которые придают приоритет конфиденциальности данных и информации о здоровье в реальном времени. Профессор Ким выразил энтузиазм по поводу сотрудничества, подчеркивая, как децентрализованная инфраструктура ИИ Theta изменит ландшафт GPU и позволит добиться прорывных достижений в приложениях Ambient AI и IoT. Это партнерство не только укрепляет приверженность Theta поддержке исследований в области ИИ мирового уровня, но и позиционирует компанию как ключевого игрока в академической среде, с амбициями привлечь больше ведущих учреждений в Азии и Северной Америке. Поскольку Theta продолжает расширять свое влияние, сотрудничество с SNU является важным шагом к содействию инновационным приложениям в реальном мире в областях ИИ и IoT.
DIMO сотрудничает с MATT3R для улучшения разработки ИИ и автономных транспортных средств cover
2 дня назад
DIMO сотрудничает с MATT3R для улучшения разработки ИИ и автономных транспортных средств
Фонд DIMO объявил о значительном партнерстве с MATT3R, целью которого является улучшение совместимости и децентрализации современных экосистем транспортных средств. Это сотрудничество направлено на ускорение разработки моделей искусственного интеллекта (ИИ) и автономных транспортных средств (АТС) путем улучшения сбора, проверки и доступности данных. MATT3R станет первой компанией после Digital Infrastructure Inc., которая полностью интегрируется в экосистему DIMO, используя DIMO SDK и вводя новое аппаратное устройство для сбора уникальных видеоданных. Эта инициатива представляет собой важный шаг в расширении протокола DIMO, который предназначен для упрощения работы с разнообразными типами данных и создания более взаимосвязанной среды для разработчиков. В области компьютерного зрения способность интерпретировать визуальные данные имеет решающее значение для продвижения автономных транспортных средств. Однако основной проблемой является получение обширных, качественных наборов данных, необходимых для обучения моделей ИИ. MATT3R решает эту проблему, позволяя пользователям собирать и делиться данными со своих транспортных средств через устройство K3Y. Это устройство позволяет агрегировать визуальные и сенсорные данные, которые затем классифицируются и маркируются для использования разработчиками. Используя краудсорсинговый подход, MATT3R может предоставить разработчикам доступ к широкому спектру реальных сценариев, тем самым улучшая надежность их моделей ИИ и АТС, обеспечивая при этом конфиденциальность пользователей и контроль над личными данными. Партнерство также включает интеграцию DIMO SDK в мобильное приложение Consol3 от MATT3R, что позволяет существующим пользователям DIMO и новым пользователям легко получать доступ к услугам. Эта интеграция не только улучшает пользовательский опыт, но и способствует взаимовыгодным отношениям между разработчиками и пользователями. Поскольку MATT3R готовится к запуску предпродажи устройств K3Y в ноябре, это сотрудничество обещает создать надежную экосистему данных, которая повысит эффективность и качество обучения моделей ИИ и АТС на глобальном уровне. Рамки проверки протокола DIMO дополнительно обеспечат целостность собранных данных, прокладывая путь к децентрализованному будущему в автомобильных технологиях.
Digital Currency Group запускает Yuma для инноваций в децентрализованной AI-сети Bittensor cover
2 дня назад
Digital Currency Group запускает Yuma для инноваций в децентрализованной AI-сети Bittensor
Digital Currency Group (DCG) под руководством Барри Сильберта официально запустила Yuma, новое дочернее предприятие, направленное на содействие инновациям в децентрализованной AI-сети Bittensor. Миссия Yuma заключается в обеспечении стартапов и предприятий необходимыми ресурсами для разработки, обучения и использования искусственного интеллекта в децентрализованной структуре. Центральным элементом экосистемы Bittensor является токен $TAO, который стимулирует участие, вознаграждая участников за их вычислительную мощность и качество их работы. Эта модель не только поощряет эффективность, но и способствует сотрудничеству среди пользователей, что делает ее привлекательной альтернативой традиционным централизованным AI-системам, доминирующим среди крупных технологических компаний. Yuma предназначена для поддержки различных проектов на основе AI, которые могут зарабатывать вознаграждения через сеть Bittensor. Компания предлагает две различные модели партнерства: программу акселератора, ориентированную на стартапы и устоявшиеся предприятия, и инкубатор подсетей, который способствует созданию новых проектов с нуля. Через свою раннюю программу инкубатора подсетей Yuma уже установила партнерские отношения с несколькими компаниями, включая Sturdy, Masa, Score и Infinite Games. Кроме того, она сотрудничала с Foundry для запуска подсети S&P 500 Oracle, демонстрируя свою приверженность созданию надежной экосистемы вокруг децентрализованного AI. Как отметил соучредитель Bittensor Джейкоб Стивс, платформа была создана для предоставления конкурентоспособной альтернативы традиционному подходу сверху вниз, который ограничивает доступ к передовым AI-возможностям. Участие DCG в Bittensor восходит к 2021 году, и его инвестиционное подразделение Grayscale с тех пор представило Bittensor Trust и децентрализованный AI-фонд, при этом Bittensor составляет 21% последнего. Эта стратегическая инвестиция подчеркивает растущее значение децентрализованных сетей в будущем искусственного интеллекта и цифровой собственности.
DCG запускает Yuma для ускорения децентрализованного ИИ с Bittensor cover
2 дня назад
DCG запускает Yuma для ускорения децентрализованного ИИ с Bittensor
Барри Сильберт, генеральный директор Digital Currency Group (DCG), выразил уверенность в том, что Bittensor может быть столь же трансформирующим, как и Bitcoin. Чтобы поддержать эту идею, DCG запустила новую компанию под названием Yuma, которая будет действовать как акселератор для стартапов, заинтересованных в исследовании экосистемы Bittensor. Сам Bittensor представляет собой децентрализованную сеть, которая поощряет вклад данных и вычислительной мощности для различных задач ИИ, начиная от перевода текста и заканчивая сложным прогнозированием структуры белков. Сильберт сравнивает Bittensor с Всемирной паутиной ИИ, подчеркивая его потенциал демократизировать технологии ИИ и снизить доминирование крупных технологических корпораций. Yuma нацелена на инкубацию и создание бизнеса, использующего децентрализованный ИИ, с планами поддерживать стартапы и предприятия в запуске собственных подсетей в рамках Bittensor. Сильберт займет пост генерального директора Yuma, которая, как ожидается, начнет с примерно 25 сотрудников. Компания работает по модели, аналогичной Y Combinator, предоставляя ресурсы и поддержку как для партнерств акселератора, так и для инкубаторов. В настоящее время у Yuma есть пять активных подсетей, с дополнительными проектами в разработке, демонстрируя разнообразие приложений, включая обнаружение ботов, прогнозирование временных рядов и исследования в области ИИ. Интерес к децентрализованному ИИ не является недавним развитием для DCG, так как они сделали свою первую инвестицию в Bittensor еще в 2021 году. С добавлением средств, выделенных на ИИ через Grayscale, DCG занимает передовые позиции в этой развивающейся технологии. Родная криптовалюта Bittensor, $TAO, играет ключевую роль в поощрении децентрализованных работников, будь то майнеры, предоставляющие вычислительные услуги, или валидаторы, обеспечивающие качественные вклады. По мере роста Yuma она стремится способствовать инновациям и сотрудничеству в экосистеме Bittensor, прокладывая путь для новой эры децентрализованных приложений ИИ.