Чат-бот Q от Amazon имеет серьезные проблемы с точностью и конфиденциальностью
В прошлый вторник на ежегодной конференции разработчиков Amazon Web Services компания Amazon анонсировала Q, чат-бота с искусственным интеллектом для бизнеса. Как выяснилось, Q, возможно, еще не совсем готов к работе.
Согласно утечке документов, с которыми ознакомился технологический бюллетень Platformer, Q "испытывает сильные галлюцинации и сливает конфиденциальные данные". Среди таких утечек - местоположение дата-центров AWS, внутренние программы скидок и даже нереализованные функции.
В своем заявлении для Platformer представитель Amazon опроверг утверждения о том, что чат-бот сливает конфиденциальную информацию.
"Некоторые сотрудники делятся отзывами через внутренние каналы и системы тикетов, что является стандартной практикой в Amazon", - сказал представитель компании. "В результате такой обратной связи не было выявлено никаких проблем с безопасностью. Мы ценим все отзывы, которые уже получили, и будем продолжать настраивать Q по мере того, как он будет переходить от предварительного просмотра к общедоступному продукту".
Q - это чат-бот для бизнеса, который можно настроить так, чтобы он помогал сотрудникам выполнять различные рабочие функции, отвечал на вопросы и генерировал контент.
Анонсируя продукт, Amazon сообщила, что несколько компаний уже используют Q, в том числе Accenture, Amazon, BMW Group, Gilead, Mission Cloud, Orbit Irrigation и Wunderkind.
Вместо того чтобы черпать информацию из Интернета, как это делают многие другие чат-боты, Q берет ответы из "хранилищ информации, кодовых баз и корпоративных систем компании", что делает еще более проблематичным, если эта информация неверна или передается не тем людям.
В ноябре компания OpenAI представила настраиваемые чат-боты под названием GPTs, которые могут отвечать на вопросы, используя внутренние данные, а не Интернет в целом, хотя развертывание магазина GPT Store было отложено из-за беспорядков, связанных с генеральным директором.
