👁🗨 Почему ИИ-компании только притворяются открытыми
👁🗨 Почему ИИ-компании только притворяются открытыми
Около 50 лет назад в Калифорнии появился клуб компьютерных энтузиастов Homebrew Computer Club. Его участники заложили основную идею движения открытого кода: программы должны быть открытыми, чтобы каждый мог их использовать, изучать, менять и делиться с другими.
Благодаря открытому коду разработчики по всему миру создают инструменты, толкающие вперед науку и технологический прогресс. Самые яркие примеры — язык программирования Python и ядро ОС Linux.
🍹 Как ИИ-компании нас путают
Сегодня многие ИИ-компании называют свои продукты «открытыми», но на деле они показывают только общую архитектуру и скрывают самое важное.
Анализ, проведенный Инициативой открытого исходного кода (OSI), показал, что популярные «открытые» языковые модели — Llama 2 и Llama 3.x (Meta*), Grok (xAI), Phi-2 (Microsoft), Mixtral (Mistral AI) — не соответствуют фундаментальным принципам сообщества. Разработчики не раскрывают дата-сеты для обучения и другие детали. Их продукты в лучшем случае можно назвать «моделями с открытыми весами».
Но существуют и в полной мере open source модели, их создают в основном некоммерческие организации, такие как Институт искусственного интеллекта Аллена, или энтузиасты.
🖥 Почему компании это делают
В 2024 году Европейский Союз принял Регламент об искусственном интеллекте, жестко регулирующий отрасль. Но для открытого ПО акт содержит послабления, которыми пытается пользоваться бизнес. Специалисты называют такую практику «отмыванием открытости» (openwashing).
Для борьбы с подменой понятий OSI разработала стандарт, определяющий настоящий открытый ИИ. Согласно нему, разработчики должны публиковать не только код, но и информацию об обучающих данных.
Если сами данные опубликовать невозможно (например, из-за защиты личной информации), компании должны хотя бы раскрыть источники данных и как они обрабатывались.
Идею (ожидаемо) еще в 2024 году критиковали в Meta, отмечая, что подходы прошлых лет плохо отражают нюансы современного быстрого развития ИИ.
Власти тоже могут помочь исправить ситуацию. Например, в США уже требуют от получателей научных грантов публиковать данные исследований в открытом доступе. Повсеместное распространение подобных правил поможет ИИ остаться прозрачной и доступной технологией, а не закрытым инструментом в руках нескольких корпораций.
Еще про открытый код:
🟥 Успех DeepSeek: как китайская модель бросает вызов ChatGPT
🟥 OpenAI может открыть код своих старых моделей
- Компания Meta признана экстремистской и запрещена в России
#новости #opensource