телекоммуникационная IT-компания
+7 (812) 449 47 32
+7 (499) 766 70 50
Санкт-Петербург
Москва

Речевая аналитика и GPT технологии.
4 полезных сценария интеграции для бизнеса.

SIGURD IT продолжает серию статей о речевых платформах и продуктах, построенных на их основе. В этой статье расскажем о технологиях обработки естественного языка — о генеративных моделях с использованием Больших языковых моделей. Большая языковая модель — это современная технология в области искусственного интеллекта, используемая для обработки текста. Такая модель включает миллиарды параметров, обучаемых на огромных объемах текстовых данных, что позволяет понимать и генерировать естественный язык с высокой точностью и естественностью.
Многие сталкивались с Большими языковым моделями, общаясь с самыми современными чат-ботами, формируя собственные креативные тексты или редактируя письма. Однако, сегодня мы, сфокусируемся на B2B-инструментах в индустрии Контакт-Центров и рассмотрим то, как Большие языковые модели помогают усилить речевую аналитику и тем самым предоставить бизнесу новые выгоды в области повышения качества обслуживания клиентов.
Это автоматическое формирование краткого содержания звонка или чата по итогам сессии обслуживания клиента. Взаимодействия в контакт-центре длятся несколько минут, слушать их очень долго, читать стенограмму и чат тоже. Как же заманчиво было бы получить емкую свертку общения клиента и оператора из 1000 слов в 20–30! Это и сделает GPT, преобразуя сотни фраз из диалога в компактный текст из 5–7 предложений. Экономия времени, фокусировка на самом главном — это немногие из преимуществ данного кейса. Степень сжатия текста и степень свободы при перефразировании определяется параметрами большой языковой модели. Качество зависит и от размера модели. Здесь работает правило: чем больше параметров заложено в модель, тем выше качество суммаризации. Так, например, модели на 7 или 70 миллиардов параметров различаются по качеству генерируемого текста и понимания контекста.
Первый сценарий
Это автоматическая генерация альтернативных речевых конструкций при формировании поисковых запросов к базе звонков и чатов. Например, при и создании словаря вежливости можно в один клик получить список синонимов, проверить их и сохранить расширенный «справочник» слов в системе. Важно отметить, что ручная проверка в данном случае устраняет возможные ошибки системы. Таким образом, получаем релевантный поиск информации, более качественную и объективную оценку сеансов обслуживания, также экономим время на создание чек-листов и справочников категорий.
Второй сценарий
Технически более сложный, третий сценарий лежит в плоскости автоматической оценки звонков. Представьте, что у вас есть несколько тысяч звонков с высоким или низким NPS, и вы хотите экстраполировать эти данные на все множество взаимодействий. Благодаря технологии GPT это становится возможным. В этом случае мы готовим выборку текстов и проставленных клиентами оценок и загружаем их в систему в качестве дополнительной выборки, после этого мы можем попросить систему автоматически оценить звонки, которые оценены не были. Тем самым мы обеспечиваем 100% покрытие всей базы звонков и можем выявить как лучшие, так и худшие практики обслуживания.
Третий сценарий
Это использование больших языковых моделей в реал-тайм аналитике. В этом сценарии система, получив текст от клиента (голосовой или текстовый канал связи), подсказывает оператору наиболее подходящий ответ (следующую лучшую реплику). Как и в случае с написанием программного кода (системы, аналогичные GitHub Copilot) оператор сам принимает решение, использовать ли ему рекомендацию или нет; процент согласий с ИИ (ключевая метрика при оценке эффективности системы автоматических подсказок) достигает 50%. Рассмотрим на примере: клиент спрашивает о цене на товар, а система выводит на экран наиболее удачную формулировку ответа на запрос. В этом сценарии мы повышаем конверсию в эффективные звонки, одновременно снижая когнитивное напряжение оператора, что важно в часы пиковой нагрузки.
Четвертый сценарий
Приведенные примеры кейсов сравнительно легко достижимы даже с использованием стандартных Больших языковых моделей как open source, так и доступных в формате облачного сервиса. Далее поговорим о более сложных сценариях, когда Большая языковая модель дополняется генерацией с дополненной выборкой (Retrieval Augmented Generation). Этот метод призван улучшить качество генерации текста путем комбинации знаний, содержащихся в базовой Большой языковой модели, и информации из других источников (База знаний, история коммуникаций и др.). Например, в системах чат-ботов благодаря этой методике предоставляем пользователю более релевантный ответ на его вопрос, исходя не только из общих “знаний”, заложенных в Большую языковую модель, но и конкретного набора пар “вопрос-ответ” в базе знаний компании.
С удовольствием проведем для вас демонстрацию продукта, в которой покажем, как Большие языковые модели работают в рамках системы речевой аналитики и обсудим аналитические кейсы, специфичные для вашей компании. Оставьте заявку на демонстрацию системы.
Автор материала
Валентин Смирнов
Ведущий эксперт речевых технологий SIGURD IT