Чат-боты раздражают, а решения ИИ выглядят «чёрным ящиком». Довериться алгоритму люди готовы только когда видят, на чём основан ответ.
Вкратце
AI повсюду: интеграция искусственного интеллекта в банковские приложения, чаты поддержки и поисковые системы Казахстана идет полным ходом, но пользователи все еще относятся к нему как к модной игрушке.
Эффект недоверия: отсутствие объяснений, как ИИ пришел к тому или иному выводу (особенно в кредитных решениях или подборе рекомендаций), порождает у людей отторжение.
Победа за прозрачностью: выиграет тот сервис, который сделает работу искусственного интеллекта предсказуемой, очевидной и оставит за человеком право финального контроля.
Искусственный интеллект перестал быть фантастикой: он рекомендует нам музыку, одобряет кредиты, составляет подборки товаров и пытается отвечать вместо операторов поддержки. Однако стремительное внедрение ИИ-технологий часто опережает готовность пользователей доверять решениям, принятым алгоритмами.
Команда Rocket Tech провела исследование того, как казахстанцы взаимодействуют с AI-функционалом внутри привычных цифровых сервисов.
Основным барьером для массового принятия ИИ в Казахстане является «эффект черного ящика» — непонимание пользователем того, как алгоритм принимает решения. Клиенты устали от «глупых» чат-ботов, маскирующихся под искусственный интеллект, и хотят видеть в ИИ прозрачного помощника, который объясняет свои действия и экономит реальное время, а не создает дополнительные круги ада в поддержке.
Стена непонимания в поддержке Пользователи испытывают раздражение, когда вместо быстрого ответа оператора их заставляют общаться с недоработанным ИИ-ботом, который не понимает контекста проблемы и гоняет клиента по кругу стандартных скриптов. Это полностью разрушает доверие ко всему бренду.
Непрозрачность алгоритмов принятия решений Когда ИИ одобряет или отклоняет заявку (например, на кредит или рассрочку), пользователь хочет знать «почему». Отсутствие обратной связи в интерфейсе («Вам отказано на основе анализа данных») вызывает чувство несправидной предвзятости системы.
Страх «галлюцинаций» алгоритма Пользователи боятся доверять ИИ важные задачи (финансовые расчеты, подбор юридических документов, медицинские рекомендации), зная, что нейросети могут ошибаться и «галлюцинировать». Отсутствие явных ссылок на первоисточники информации внутри интерфейса ИИ-ассистента усиливает этот барьер.
Model гиков (Энтузиасты): Активно тестируют все новые AI-фичи, используют генеративные модели для работы и бытовых задач, пытаются оптимизировать свои сценарии взаимодействия с приложениями через голосовых помощников.
Модель прагматичного использования (Скептики): Обращаются к ИИ только тогда, когда это дает гарантированный и быстрый результат (например, суммаризация длинного текста или быстрый поиск по точным параметрам). Они мгновенно переключаются на человека, если алгоритм начинает буксовать.
Модель тотального отторжения (Консерваторы): Принципиально игнорируют любые умные ленты рекомендаций, требуют отключить «слежку алгоритмов» за своими действиями, а при встрече с чат-ботом в поддержке сразу пишут капсом «ОПЕРАТОР», стремясь минимизировать контакты с машиной.
Ерлан пишет в поддержку банка: не прошёл платёж за коммуналку. Вместо оператора — чат-бот, который трижды предлагает «проверить баланс» и гоняет по стандартным веткам, не понимая сути проблемы. Ерлан пишет капсом «ОПЕРАТОР» — знакомый многим приём. А когда тот же банк через ИИ отказал ему в рассрочке без единого объяснения «почему», ощущение несправедливости только усилилось. Ерлан не против искусственного интеллекта — он против того, чтобы алгоритм решал за него втёмную и вдобавок мешал дозвониться до живого человека.
Показательно, что те же люди спокойно пользуются ИИ, когда он прозрачен и полезен: суммаризация длинного договора, быстрый поиск по точным параметрам, подсказка аналога товара. Отторжение вызывает не технология, а бесконтрольность — когда бот подменяет живого оператора и когда алгоритм выносит вердикт без объяснения. Банку достаточно двух вещей: заметной кнопки «оператор» в любой момент диалога и понятного «почему» под каждым решением ИИ. Тогда «чёрный ящик» превращается в помощника, которому доверяют.
ИИ должен помогать человеку, а не заменять его там, где это критически важно. Вектор развития интерфейсов будущего лежит в создании объяснимого и эмпатичного искусственного интеллекта, который бережно относится к пользовательскому опыту и не заставляет людей чувствовать себя глупее алгоритма.
Дать клиенту возможность в любой момент (через одну заметную кнопку) переключить диалог с ИИ на живого оператора, без необходимости проходить обязательные ветки опросника.
Это ситуация, когда пользователь видит итоговый результат работы ИИ (например, отказ в выдаче рассрочки), но интерфейс никак не объясняет, на основе каких логических шагов и факторов этот результат был получен.
Предоставляя верифицируемые кликабельные ссылки на источники информации или документы, на базе которых ИИ-модель сформировала свой ответ.
Когда видят, на чём основан ответ, и могут в любой момент переключиться на человека. Доверие даёт прозрачность: ссылка на источник, понятное объяснение отказа по заявке и заметная кнопка вызова оператора. Без этого даже точный ИИ воспринимается как «чёрный ящик».
Первоисточник исследования: Rocket Tech: Искусственный интеллект и проектирование объяснимого UX в современных интерфейсах
