Вкратце
-
AI повсюду: интеграция искусственного интеллекта в банковские приложения, чаты поддержки и поисковые системы Казахстана идет полным ходом, но пользователи все еще относятся к нему как к модной игрушке.
-
Эффект недоверия: отсутствие объяснений, как ИИ пришел к тому или иному выводу (особенно в кредитных решениях или подборе рекомендаций), порождает у людей отторжение.
-
Победа за прозрачностью: выиграет тот сервис, который сделает работу искусственного интеллекта предсказуемой, очевидной и оставит за человеком право финального контроля.
Искусственный интеллект перестал быть фантастикой: он рекомендует нам музыку, одобряет кредиты, составляет подборки товаров и пытается отвечать вместо операторов поддержки. Однако стремительное внедрение ИИ-технологий часто опережает готовность пользователей доверять решениям, принятым алгоритмами.
Команда Rocket Tech провела исследование того, как казахстанцы взаимодействуют с AI-функционалом внутри привычных цифровых сервисов.
Краткий вывод
Основным барьером для массового принятия ИИ в Казахстане является «эффект черного ящика» — непонимание пользователем того, как алгоритм принимает решения. Клиенты устали от «глупых» чат-ботов, маскирующихся под искусственный интеллект, и хотят видеть в ИИ прозрачного помощника, который объясняет свои действия и экономит реальное время, а не создает дополнительные круги ада в поддержке.
Ключевые барьеры: бесполезные чат-боты и страх потери контроля
-
Стена непонимания в поддержке Пользователи испытывают раздражение, когда вместо быстрого ответа оператора их заставляют общаться с недоработанным ИИ-ботом, который не понимает контекста проблемы и гоняет клиента по кругу стандартных скриптов. Это полностью разрушает доверие ко всему бренду.
-
Непрозрачность алгоритмов принятия решений Когда ИИ одобряет или отклоняет заявку (например, на кредит или рассрочку), пользователь хочет знать «почему». Отсутствие обратной связи в интерфейсе («Вам отказано на основе анализа данных») вызывает чувство несправидной предвзятости системы.
-
Страх «галлюцинаций» алгоритма Пользователи боятся доверять ИИ важные задачи (финансовые расчеты, подбор юридических документов, медицинские рекомендации), зная, что нейросети могут ошибаться и «галлюцинировать». Отсутствие явных ссылок на первоисточники информации внутри интерфейса ИИ-ассистента усиливает этот барьер.
Модели поведения: от слепого восторга до жесткого игнорирования
-
Model гиков (Энтузиасты): Активно тестируют все новые AI-фичи, используют генеративные модели для работы и бытовых задач, пытаются оптимизировать свои сценарии взаимодействия с приложениями через голосовых помощников.
-
Модель прагматичного использования (Скептики): Обращаются к ИИ только тогда, когда это дает гарантированный и быстрый результат (например, суммаризация длинного текста или быстрый поиск по точным параметрам). Они мгновенно переключаются на человека, если алгоритм начинает буксовать.
-
Модель тотального отторжения (Консерваторы): Принципиально игнорируют любые умные ленты рекомендаций, требуют отключить «слежку алгоритмов» за своими действиями, а при встрече с чат-ботом в поддержке сразу пишут капсом «ОПЕРАТОР», стремясь минимизировать контакты с машиной.
Как это выглядит на практике
Ерлан пишет в поддержку банка: не прошёл платёж за коммуналку. Вместо оператора — чат-бот, который трижды предлагает «проверить баланс» и гоняет по стандартным веткам, не понимая сути проблемы. Ерлан пишет капсом «ОПЕРАТОР» — знакомый многим приём. А когда тот же банк через ИИ отказал ему в рассрочке без единого объяснения «почему», ощущение несправедливости только усилилось. Ерлан не против искусственного интеллекта — он против того, чтобы алгоритм решал за него втёмную и вдобавок мешал дозвониться до живого человека.
Показательно, что те же люди спокойно пользуются ИИ, когда он прозрачен и полезен: суммаризация длинного договора, быстрый поиск по точным параметрам, подсказка аналога товара. Отторжение вызывает не технология, а бесконтрольность — когда бот подменяет живого оператора и когда алгоритм выносит вердикт без объяснения. Банку достаточно двух вещей: заметной кнопки «оператор» в любой момент диалога и понятного «почему» под каждым решением ИИ. Тогда «чёрный ящик» превращается в помощника, которому доверяют.
Почему это важно
ИИ должен помогать человеку, а не заменять его там, где это критически важно. Вектор развития интерфейсов будущего лежит в создании объяснимого и эмпатичного искусственного интеллекта, который бережно относится к пользовательскому опыту и не заставляет людей чувствовать себя глупее алгоритма.
FAQ
Как победить негатив пользователей по отношению к чат-ботам в поддержке?
Дать клиенту возможность в любой момент (через одну заметную кнопку) переключить диалог с ИИ на живого оператора, без необходимости проходить обязательные ветки опросника.
Что такое «эффект черного ящика» простыми словами?
Это ситуация, когда пользователь видит итоговый результат работы ИИ (например, отказ в выдаче рассрочки), но интерфейс никак не объясняет, на основе каких логических шагов и факторов этот результат был получен.
Как интерфейс ИИ может доказать свою надежность в аналитических задачах?
Предоставляя верифицируемые кликабельные ссылки на источники информации или документы, на базе которых ИИ-модель сформировала свой ответ.
Когда казахстанцы готовы доверять ИИ-ассистенту?
Когда видят, на чём основан ответ, и могут в любой момент переключиться на человека. Доверие даёт прозрачность: ссылка на источник, понятное объяснение отказа по заявке и заметная кнопка вызова оператора. Без этого даже точный ИИ воспринимается как «чёрный ящик».
Первоисточник исследования: Rocket Tech: Искусственный интеллект и проектирование объяснимого UX в современных интерфейсах
