Red Hat опубликовал первый выпуск дистрибутива Red Hat Enterprise Linux AI
Red Hat опубликовал первый выпуск дистрибутива Red Hat Enterprise Linux AI
В состав дистрибутива включена подборка инструментов и фреймворков для машинного обучения, драйверы для использования различных аппаратных ускорителей AMD, Intel и NVIDIA, и компоненты для задействования возможностей серверов Dell, Cisco, HPE, Lenovo и SuperMicro, оптимизированных для AI-систем.
Платформа может применяться для разработки корпоративных AI-приложения, внедрения сервисов генерации контента, создания диалоговых систем и интеграции в приложения виртуальных ассистентов.
В RHEL AI интегрированы компоненты для создания, тестирования и выполнения систем машинного обучения на базе большой языковой модели Granite, открытой компанией IBM под лицензией Apache 2.0, способной учитывать при генерации текста до 4 тысячи токенов и охватывающей 7 миллиардов параметров. Для взаимодействия с моделью Granite в дистрибутив интегрирован открытый инструментарий InstructLab, поддерживающий методологию LAB (Large-scale Alignment for chatBots) для подгонки под свои нужды и оптимизации моделей, а также для добавления дополнительных знаний и реализации новых навыков в предварительно натренированных моделях.
Linux / Линукс 🥸
В состав дистрибутива включена подборка инструментов и фреймворков для машинного обучения, драйверы для использования различных аппаратных ускорителей AMD, Intel и NVIDIA, и компоненты для задействования возможностей серверов Dell, Cisco, HPE, Lenovo и SuperMicro, оптимизированных для AI-систем.
Платформа может применяться для разработки корпоративных AI-приложения, внедрения сервисов генерации контента, создания диалоговых систем и интеграции в приложения виртуальных ассистентов.
В RHEL AI интегрированы компоненты для создания, тестирования и выполнения систем машинного обучения на базе большой языковой модели Granite, открытой компанией IBM под лицензией Apache 2.0, способной учитывать при генерации текста до 4 тысячи токенов и охватывающей 7 миллиардов параметров. Для взаимодействия с моделью Granite в дистрибутив интегрирован открытый инструментарий InstructLab, поддерживающий методологию LAB (Large-scale Alignment for chatBots) для подгонки под свои нужды и оптимизации моделей, а также для добавления дополнительных знаний и реализации новых навыков в предварительно натренированных моделях.
Linux / Линукс 🥸
Канал источник:@linux_gram