Forklog 2024-02-28 14:12:06

Qualcomm представила ИИ-продукт AI Hub для работы вне облака

На выставке MWC 2024 Qualcomm анонсировала новый инструмент AI Hub. Продукт упрощает доступ к нейросетям разработчикам генеративного ИИ, которые все чаще переносят работу из облака на устройства. AI Hub содержит библиотеку из более чем 75 генеративных ИИ-моделей. Пользователи могут легко загружать их в устройства на базе Qualcomm. В набор будут постоянно добавлять новые нейросети. «Qualcomm AI Hub предоставляет разработчикам обширную библиотеку для быстрой и простой интеграции предварительно оптимизированных ИИ-моделей в свои приложения, что приводит к более быстрому, надежному и индивидуальному пользовательскому опыту», — сообщил старший вице-президент Qualcomm по технологическому планированию Дурга Маллади. AI Hub содержит одни из самых популярных моделей в отрасли, среди которых: система автоматического распознавания речи Whisper от OpenAI; модель преобразования текста в изображение Stable DIffusion от Stability AI; чат-бот Llama от Meta. Нейросети доработаны таким образом, чтобы максимально эффективно использовать все ядра, входящие в состав Qualcomm AI Engine. По словам представителей компании, это позволяет повысить энергоэффективность, снизить нагрузку на память и увеличить скорость вычислений в четыре раза. Работа ИИ-моделей непосредственно на устройстве повышает уровень конфиденциальности. Это особенно важно при создании моделей, использующих базы данных с непубличными данными. Напомним, в ноябре 2022 года компания Qualcomm представила Snapdragon 8 Gen 2 с выделенным ИИ-чипом.