🤖 Создавать собственных ИИ-помощников станет ещё проще. Сегодня Yandex B2B Tech (новая
🤖 Создавать собственных ИИ-помощников станет ещё проще. Сегодня Yandex B2B Tech (новая бизнес-группа Яндекса) запустила облачный сервис AI Assistant API. Он уже доступен в Yandex Cloud и позволяет создавать ИИ-ассистентов без настройки инфраструктуры и написания большого объёма кода.
Таких помощников обычно используют для автоматизации технической поддержки, умного корпоративного поиска, создания рекомендаций на маркетплейсах и не только. В скором времени AI Assistant API можно будет использовать и на собственной инфраструктуре компании.
На этапе публичного превью в облаке пользователи будут платить только за использование генеративной модели, поиск по базам знаний доступен бесплатно. Сейчас прайс за работу с YandexGPT варьируется от 10 копеек до 1,2 рубля за 1 тысячу токенов, включая НДС.
✔️ За счёт нового сервиса внедрение языковых моделей в бизнес-процессы можно ускорить более чем на 30%. Сервис берёт на себя задачи по настройке баз данных, автоматической подготовке документов, построению векторов, управлению контекстом — как раз эту загрузку на внедрение и получится снять.
Конечно, прям как на картинке, одним промтом настроить помощника не выйдет. Но на практике много кода действительно не потребуется — а всю базу знаний можно подгрузить в модель в файлах в формате PDF, DOC, TEXT или XLS. В них могут содержаться, например, документы организации или какие-то статьи. Всего нескольких минут хватит, чтобы пользователь мог начать общаться с помощником.
☁️ AI Assistant API работает таким образом за счёт метода RAG (Retrieval Augmented Generation) — через документы в разных форматах задаётся контекст, на базе которого LLM должна скомпоновать ответ. К тому же, в основе всего этого лежит новая линейка YandexGPT 4.
В будущем AI Assistant API также сможет обращаться к внешним базам знаний. Специально для @antidigital в Яндексе пояснили, что пока в планах разработчиков — настроить интеграции с объектным хранилищем Yandex Cloud (S3), Yandex Wiki, Confluence. Также будут созданы коннекторы к базам данных клиентов для обращений через SQL.
ℹ️ Вообще сама концепция сервисов для упрощённого запуска ИИ-помощников не нова. OpenAI представила свой Assistants API со схожим функционалом ещё год назад. А в октябре МТС выпустила собственного ИИ-помощника для банковских сотрудников. Он также умел анализировать внутренние базы данных и давать по ним ответы.
При этом в МТС сразу выбрали модель работы по on-premise, что было важно для того же финтех-сектора с повышенными требованиями к безопасности данных. По словам представителей MTS AI, сегодня у них также есть кастомные ИИ-помощники для всех ключевых отраслей — банки, промышленность, ритейл и другие, а также межотраслевые — для HR-отдела, департамента маркетинга.
В MTS AI также напомнили, что развивают сервис для автоматического обучения нейросетей для решения несложных задач, таких как создание чат-ботов, распределение входящих писем и другие.
🔤🔤С рынка никуда не делись и open source решения вроде LLaMA, с которыми всё можно настроить руками. Но такой простоты, как у вендорских решений, от них, конечно, ждать не стоит. Сегодня большинство поставщиков ИИ-моделей работают как ателье, дорабатывая модели под конкретного заказчика и внедряя их на его контуре.
Теперь пользователи ждут от разработчиков экспертизы, чтобы оценить потенциальное влияние ИИ на бизнес, создать среду для быстрого тестирования моделей в контуре, определить метрики и рамки пилотного проекта.
Таких помощников обычно используют для автоматизации технической поддержки, умного корпоративного поиска, создания рекомендаций на маркетплейсах и не только. В скором времени AI Assistant API можно будет использовать и на собственной инфраструктуре компании.
На этапе публичного превью в облаке пользователи будут платить только за использование генеративной модели, поиск по базам знаний доступен бесплатно. Сейчас прайс за работу с YandexGPT варьируется от 10 копеек до 1,2 рубля за 1 тысячу токенов, включая НДС.
✔️ За счёт нового сервиса внедрение языковых моделей в бизнес-процессы можно ускорить более чем на 30%. Сервис берёт на себя задачи по настройке баз данных, автоматической подготовке документов, построению векторов, управлению контекстом — как раз эту загрузку на внедрение и получится снять.
Конечно, прям как на картинке, одним промтом настроить помощника не выйдет. Но на практике много кода действительно не потребуется — а всю базу знаний можно подгрузить в модель в файлах в формате PDF, DOC, TEXT или XLS. В них могут содержаться, например, документы организации или какие-то статьи. Всего нескольких минут хватит, чтобы пользователь мог начать общаться с помощником.
☁️ AI Assistant API работает таким образом за счёт метода RAG (Retrieval Augmented Generation) — через документы в разных форматах задаётся контекст, на базе которого LLM должна скомпоновать ответ. К тому же, в основе всего этого лежит новая линейка YandexGPT 4.
В будущем AI Assistant API также сможет обращаться к внешним базам знаний. Специально для @antidigital в Яндексе пояснили, что пока в планах разработчиков — настроить интеграции с объектным хранилищем Yandex Cloud (S3), Yandex Wiki, Confluence. Также будут созданы коннекторы к базам данных клиентов для обращений через SQL.
ℹ️ Вообще сама концепция сервисов для упрощённого запуска ИИ-помощников не нова. OpenAI представила свой Assistants API со схожим функционалом ещё год назад. А в октябре МТС выпустила собственного ИИ-помощника для банковских сотрудников. Он также умел анализировать внутренние базы данных и давать по ним ответы.
При этом в МТС сразу выбрали модель работы по on-premise, что было важно для того же финтех-сектора с повышенными требованиями к безопасности данных. По словам представителей MTS AI, сегодня у них также есть кастомные ИИ-помощники для всех ключевых отраслей — банки, промышленность, ритейл и другие, а также межотраслевые — для HR-отдела, департамента маркетинга.
В MTS AI также напомнили, что развивают сервис для автоматического обучения нейросетей для решения несложных задач, таких как создание чат-ботов, распределение входящих писем и другие.
🔤🔤С рынка никуда не делись и open source решения вроде LLaMA, с которыми всё можно настроить руками. Но такой простоты, как у вендорских решений, от них, конечно, ждать не стоит. Сегодня большинство поставщиков ИИ-моделей работают как ателье, дорабатывая модели под конкретного заказчика и внедряя их на его контуре.
Теперь пользователи ждут от разработчиков экспертизы, чтобы оценить потенциальное влияние ИИ на бизнес, создать среду для быстрого тестирования моделей в контуре, определить метрики и рамки пилотного проекта.
Канал источник:@antidigital