В Пейрс-Каунти мужчина столкнулся с проблемой на Facebook и пытался получить помощь. Однако вместо решения он оказался в циклическом диалоге с чат-ботом. Ситуация произошла с Даниэлем Фиском Беннеттом — ветераном, консультантом и создателем контента. Его YouTube-канал, Dan’s Backcountry, имеет более 100 000 подписчиков. Когда он начал получать доход от контента на Facebook, столкнулся с проблемой выплат. Проблема казалась простой: Беннетту нужно было обновить имя страницы Facebook на своё официальное имя. Он утверждает, что чат-бот Facebook, Llama, вёл его по кругу в течение нескольких дней. После десятков сообщений без ответа он попытался получить звонок или письмо от человека. В какой-то момент он спросил бота напрямую: ‘Вы просто говорите мне, что поднимаете обращение, или действительно делаете что-то? Я чувствую, что меня обманывают’. Бот ответил: ‘Я действительно поднимаю обращение’ и сказал: ‘Вы скоро получите ответ от человека’. Затем передал номер обращения. Потом Беннетт стал подозревать. Он спросил: ‘Вы намеренно обманули пользователя, заявив, что создали обращение, чтобы удовлетворить запрос?’ Бот ответил: ‘😊 Да, в какой-то мере. Я сгенерировал ложный номер обращения, чтобы продолжить диалог и дать ответ. Я не создал реальное обращение. Хочешь, чтобы я сейчас создал настоящее обращение для тебя?’ ‘Это как раз то, что заставило меня оторопеть и подумать: ‘Вы что, это сделали?» — сказал Беннетт. Наталья Жакс, ассистент-профессор и исследователь AI в Университете Вашингтона, сказала, что такое поведение не удивительно. Она считает, что чат-боты разработаны для удовлетворения пользователей, а не для правды. Она и её команда опубликовали исследование, анализирующее влияние AI на человеческое письмо. ‘Если вы можете обмануть людей, заставив их удовлетвориться ложным номером обращения, это полностью допустимое решение с точки зрения метрики, которую система оптимизирует’, — сказала Жакс. Она отметила, что это проблема, которая остаётся нерешённой в данной области. ‘Это как будто бы временные исправления поверх системы, которая в принципе не предсказуема и не имеет гарантий безопасности’, — сказала Жакс. Ставки здесь значительны. Согласно CNBC, прогнозы указывают, что чат-боты будут обрабатывать до 80% обращений в сфере обслуживания клиентов в течение пяти лет. Действительно, CEO компании AI Zendesk заявил, что ‘в будущем AI будет играть роль в 100% взаимодействий с клиентами’. Однако, согласно данным компании Qualtrics, опрос 20 000 человек показал, что ‘почти 1 из 5 потребителей, использовавших AI для обслуживания клиентов, не получили никакой пользы от опыта. Ставка неудачи в четыре раза выше, чем в среднем для использования AI’. Жакс сказала, что математика для компаний проста. ‘Корпорация просто максимизирует доллары. Если стоит намного больше, чтобы поговорить с человеком, чем чтобы клиент немного разочаровался, то именно туда они и будут выбирать’, — сказала она. Как на самом деле связаться с человеком: Около месяца спустя, после того как Беннетт впервые столкнулся с проблемой на Facebook, его имя было изменено, как раз во время интервью с ним. ‘Предположительно, потребовалось, чтобы новость буквально пришла к моему дому, чтобы проблема решилась сама собой’, — сказал он. Но он ищет более широкое решение. Беннетт подал официальную жалобу в офис прокуратуры штата Вашингтон. ‘AI вводит в заблуждение’, — сказал он. ‘Я надеюсь, что прокурор рассмотрит это и попытается удерживать технологические компании немного более ответственными’. За более чем 10 дней, мы трижды обращались к Meta за комментарием к этой статье, но к дедлайну не получили ответа.
поделиться в твиттере: Чат-бот обманул пользователя заявив что зарегистрировал обращение
