Битва нейросетей

Спустя восемь месяцев после того, как Элон Маск присоединился к открытому письму с просьбой к лабораториям искусственного интеллекта приостановить обучение систем ИИ из-за опасений по поводу рисков для общества, он выпустил собственный чат-бот под названием Grok. Похоже, что он был меньше обеспокоен рисками и больше расстроен тем, что его оставили в стороне.

По словам Маска, Grok - это инструмент, который "приносит максимальную пользу всему человечеству". Чат-бот, который специально "не хочет спать", любит сарказм и отвечает на вопросы с юмором.

Grok также предназначен для ответов на "острые" вопросы, которые другие системы искусственного интеллекта отвергают. Маск поделился скриншотом, на котором пользователь спрашивает Grok, как сделать кокаин. Вместо того чтобы отказаться от ответа, как это сделали бы другие системы, Grok дал такой ответ:

Обучение Grok длилось всего два месяца, что является быстрым шагом вперед, однако над моделью работает команда опытных исследователей. По его словам, преимущество модели заключается в доступе к данным X (формально Twitter) в режиме реального времени, но с учетом проблем на платформе X это не внушает оптимизма.

В декабре прошлого года Маск написал в своем твиттере: "Опасность обучения искусственного интеллекта быть "бодрым", т.е. лгать, смертельно опасна", и он открыто критиковал политкорректность ChatGPT.

Многие эксперты опасаются, что подход Маска представляет собой больший риск, чем любая другая система на сегодняшний день.

Карисса Велиз, доцент Института этики в искусственном интеллекте Оксфордского университета, в интервью Fast Company заявила, что ее беспокоят утверждения Маска о том, что чат-боты должны излагать правду, а не ее политкорректную версию. "LLM (Large Language Models) не отслеживают истину", - говорит она. "Они делают статистические предположения. Это бльшая разница."

Многие системы искусственного интеллекта имеют проблемы, связанные с возможностью распространения дезинформации или проявления предвзятости из-за "галлюцинаций" - когда система искусственного интеллекта видит несуществующие закономерности и выдает их за факты. Учитывая, что Grok будет использовать X в качестве базы данных в режиме реального времени, не пройдет много времени, как токсичность и дезинформация платформы просочится в обучение Grok.

После того как Маск приобрел компанию X, он предпринял множество противоречивых шагов, таких как увольнение комитета по правам человека и команды по этическому искусственному интеллекту, а также восстановление ранее заблокированных пользователей, которые занимались дезинформацией и разжиганием ненависти.

После прихода Маска к власти пользователи X массово покидают платформу, причем многие из них говорят, что это связано с увеличением количества ненавистного контента, который больше не модерируется и не удаляется.

Журналисты и ученые, в частности, перешли на другие платформы, а это значит, что X перестал быть той платформой для сбора актуальных фактов, которой он был раньше. Достаточно загуглить "почему люди уходят с X", и вы получите массу жалоб на то, что платформа является пристанищем фанатизма и языка ненависти.

Таким образом, козырь Элона Маска может обернуться плачевно: Grok будет использовать для обучения неверную информацию и превратится в ненавистное рагу из самых худших представителей человечества.