Это та самая четвёртая часть. Робот должен уметь вовремя остановиться. В моей схеме для
этого два признака: качество распознавания речи и уверенность модели в том, что она поняла
запрос. Уверенность — оценка от 0 до 1: 1 значит «поняла точно», 0 — «не поняла вообще».
Если оценка ниже 0,7
или два уточнения подряд ничего не дали, разговор уходит живому администратору днём
или в очередь на обратный звонок ночью. Порог настраивается в первые две недели после
запуска по записям разговоров.
Зачем всё это:
в премиальном сегменте клиент ходит к вам
годами, и один неудачный разговор с роботом может его отпугнуть. Поэтому робот,
который не уверен в ответе, передаёт разговор человеку.
Там, где ошибка опасна, поверх модели нужны жёсткие правила. В схеме для стоматологии
так работают тревожные признаки: температура выше 38 °C с отёком, невозможность открыть рот,
свежая травма зуба. Они сразу дают высший приоритет, и модель это решение изменить не может.