Индустрии
Специализации
Типы задач
Типы ботов
В наших проектах мы используем российские генеративные модели YandexGPT и GigaChat, которые развиваются большими темпами и не только не уступают по качеству оригинальному продукту – ChatGPT, но и иногда опережают его. Это показатель высокого уровня развития российской ИТ-индустрии и подтверждение того, что продукты Сбера, Яндекса и других крупных российских разработчиков способны конкурировать с лучшими мировыми брендами.
Раньше генеративные нейросети использовали в основном обычные пользователи для поиска информации и ответов на вопросы, а теперь они все более активно применяются в бизнесе для решения задач суммаризации, классификации, генерации ответов. Все это значительно повышает скорость бизнес-процессов и экономит ресурсы компании.
Где применимо:
- в клиентской службе и технической поддержке
- в работе юридических департаментов, отделов закупок и HR
- в финансовых и ИТ-департаментах
- в отделах маркетинга и продаж
Генеративные нейросети помогают роботам запоминать контекст, расширяют их знания и дают максимальную свободу ведения диалога. Но в работе с LLM есть много особенностей и для того, чтобы достичь максимальной точности в ответах ассистентов, мы применяем целый комплекс методов:
Исключение галлюцинаций
Даем модели инструкцию отвечать только в рамках заданного контекста из строго ограниченной области: нормативных документов, инструкций, базы знаний компании. Таким образом, робот теряет доступ к общей базе знаний и не будет выдавать в качестве ответа неточную информацию из интернета.
Fine-tuning
Дообучаем LLM-модель на меньшем наборе данных, специфичном для домена, если необходимо, чтобы она лучше работала в определенной области, например, в медицине. Это позволяет ей лучше адаптироваться к задаче, давать более точные ответы по узкой тематике, модифицировать поведение или стиль ответов.
Правильная передача контекста
Передаем LLM-модели контент из различных источников определенным образом – нарезаем данные не на простые чанки, которые могут быть неполными по содержанию, а на законченные статьи, содержащие всю необходимую информацию для формирования правильного ответа.
Усовершенствование поискового алгоритма
Помимо семантического поиска мы используем собственный поисковый алгоритм Vocamate AI и орфокорректор, убирающий грамматические ошибки в запросах. Это позволяет проводить в базе знаний более точный поиск информации, которую необходимо передать в LLM.
Уточненный поиск ссылок
В случае со сложными вопросами мы анализируем несколько статей. Поиск статей ведется как по запросу пользователя, так и на основе ответа бота, поскольку он семантически более близок к статьям из базы знаний. В результате пользователю отдается точный короткий ответ и ссылка на подробную статью, которая содержит максимально близкий к вопросу ответ.
Использование помощников с генеративным ИИ в различных областях бизнеса значительно улучшает процессы и экономит ресурсы. А особые подходы в работе с ними помогают обеспечить точность и релевантность ответов, делая использование нейросетей еще более эффективным и полезным в рабочих процессах. Сергей Четвертаков,
генеральный директор Проф ИТ