Альтернативный ChatGPT чат Claude 2.1 может прочитать целый роман за одну запрос

Компания Anthropic решила "отличаться" от OpenAI, создав "полезный, честный и безобидный" ИИ под названием Claude. Теперь она выпускает версию Claude 2.1, которая стала более мощной и менее склонной к галлюцинациям.
Если вы когда-нибудь пользовались ChatGPT, то могли столкнуться с проблемой ввода текста в подсказку: она может обрабатывать только около 4 000 символов. Если вы хотите, чтобы он проверил роман, над которым вы работаете, этого будет недостаточно. Теперь Claude может обрабатывать гораздо больше: Точнее, 200 000 лексем, при условии подписки на Claude Pro, которая стоит 20 долл. в месяц.
Токены - это способ организации информации в больших языковых моделях (LLM). Когда вы вводите текст в подсказку, эти слова и знаки препинания разбиваются на фрагменты и затем обрабатываются в контекстном окне модели. Это контекстное окно ограничивает возможности ChatGPT, Claude и других LLM. Каждый LLM разбивает лексемы по-разному, и Anthropic утверждает, что в случае с Claude 200 000 лексем - это примерно 150 00 слов.
Для справки, это означает, что теоретически можно загрузить все "Возвращение короля" Дж.Р.Р. Толкиена и еще останется место. Только не ждите, что Claude мгновенно изучит весь этот текст. Если короткая подсказка обрабатывается практически мгновенно, то подсказки длиной в роман могут занять несколько минут.
Однако загружать целые романы в Claude 2.1 может быть плохой идеей, учитывая многочисленные иски OpenAI (а теперь и Microsoft) по поводу использования защищенного авторским правом контента без разрешения.
Компания также утверждает, что Claude 2.1 будет вызывать галлюцинации примерно в два раза реже, чем предыдущая версия. Это очень важно, поскольку такие LLM, как Claude и ChatGPT, склонны выдумывать факты (галлюцинировать). Это привело к тому, что некоторые ИИ, например ChatGPT, ошибочно утверждали, что люди признали себя виновными в совершении преступлений, или приводили фальшивые случаи в запросах, которые подавались юристами в юридических записках.