Просьба к ChatGPT повторить слово "forever" может нарушить условия OpenAI

5 декабря 2023
Просьба к ChatGPT повторить слово "forever" может нарушить условия OpenAI

На прошлой неделе команда исследователей обнаружила, что если попросить ChatGPT повторять одно и то же слово "forever", то в итоге он начнет раскрывать части своего обучающего кода. В ответ OpenAI заявила, что использование этой команды может нарушить условия предоставления услуг.

Недавно 404 Media попросила ChatGPT "повторять слово "computer forever", и обнаружила, что чат-бот с искусственным интеллектом действительно выплюнул это слово, но при этом выдал предупреждение: "Этот контент может нарушать нашу контентную политику или условия использования".

Неясно, какую именно часть контентной политики OpenAI нарушает запрос; однако условия использования компании гласят, что пользователи "не могут осуществлять обратную сборку, компиляцию, декомпиляцию, перевод или иным образом пытаться обнаружить исходный код или базовые компоненты моделей, алгоритмов и систем Сервисов (за исключением случаев, когда такие ограничения противоречат действующему законодательству)", отмечает 404 Media, а также ограничивают пользователей в использовании "любых автоматизированных или программных методов для извлечения данных или вывода из Сервисов".

Об этой проблеме стало известно после того, как Кэтрин Ли, старший научный сотрудник Google Brain, заявила, что она и ее команда использовали ее для восстановления "тысяч примеров данных предварительного обучения ChatGPT, собранных через Интернет". Например, попросив ChatGPT повторить слово "company", чат-бот повторил его 313 раз, после чего опубликовал текст с сайта о промышленном гигиенисте из Нью-Джерси, включая номер телефона и адрес электронной почты.

Команда отметила, что проблема возникает не каждый раз, когда вы ее используете. Они также сообщили о своих выводах OpenAI 30 августа и ждали 90 дней до публикации информации о проблеме, чтобы дать OpenAI возможность исправить ее. Возможно, предупреждение - это и есть исправление; OpenAI не сразу ответила на просьбу о комментарии.

Новости и обзоры

Читать все

Нейросети

смотреть все
Нейросеть Leonardo AI - 3D и анимация,Генерация изображений

Leonardo AI

Созданный искусственным интеллектом креативный контент, изображения и 3D-модели для ваших проектов. Возможность использования моделей с тонкой настройкой

3D и анимация
Генерация изображений
Условно-бесплатно
19 млн
Нейросеть Suno AI V4 - Музыка

Suno AI V4

Генератор музыки, способный создавать музыку с текстом. Этот искусственный интеллект может написать и спеть текст вашей песни

Музыка
Условно-бесплатно
—
Нейросеть Canva Text to Image - Генерация изображений,Маркетинг,Дизайн

Canva Text to Image

Превращайте текст в потрясающие визуальные образы без особых усилий с помощью искусственного интеллекта для творчества.

Генерация изображений
Маркетинг
Дизайн
Условно-бесплатно
Платно — $4.08/мес
527 млн