https://gilescrouch.medium.com/ai-browsers-the-risks-dangers-c11e8e9a69ec Д

ИИ-браузеры: риски и опасности

ИИ-браузеры могут быть сборщиками ренты с человеческих намерений. В некоторых аспектах они могут оказаться хуже, чем мы думаем.

У Сары началась паника, когда она вспомнила, что на следующей неделе день рождения её мамы. Она открыла ноутбук и запустила свой ИИ-браузер. Она попросила его найти свитер для мамы её любимого цвета — синего. За считанные секунды браузер просканировал множество сайтов, нашёл лучший вариант, добавил его в корзину, заполнил адрес доставки. Саре оставалось только нажать «Подтвердить». Вуаля!

И всё же что-то тревожило её. Она не могла вспомнить, когда в последний раз делала покупки онлайн самостоятельно. Не могла вспомнить, как она это делала. Но теперь её браузер знал любимый цвет её мамы, день рождения, адрес и сколько Сара готова была заплатить. При этом она чувствовала, что что-то потеряла.

Мы находимся в точке перегиба, на пороге огромного сдвига в том, как мы взаимодействуем с информацией. Хотя Atlas от OpenAI и Comet от Perplexity обещают усилить наш интеллект и позволить просматривать информацию со скоростью мысли, происходит совсем не это. Мы строим новую инфраструктуру для интернета, где мы больше не перемещаемся сами, а отправляем агентов делать всё за нас. Звучит круто. Или это ловушка?

Сценарии использования этих ИИ-браузеров на самом деле больше напоминают технофеодализм и деградацию (enshittification) с самого начала. Являются ли эти инструменты средствами для человеческого процветания или просто новыми транзакционными движками, оптимизированными для прибыли платформ? Это может быть не эволюцией браузеров, а скорее индустриализацией человеческой агентности.

Люди — это вид, создающий истории, наделяющий смыслом и социально встроенный. Но когда мы автоматизируем коммерческие решения, этого не происходит. Вместо этого эти ИИ-браузеры вполне могут перестраивать человеческое поведение в пользу платформ, алгоритмов. То, что мы можем задавать больше вопросов, не означает, что мы думаем лучше. Использование агентов в ИИ-браузерах делает их транзакционными движками, а не системами поддержки принятия решений.

Эти браузеры были специально разработаны для контроля. Чтобы разрушить границы, так как они требуют от нас предоставить им неограниченный доступ ко всей нашей цифровой жизни, нашим финансам и способности испытывать случайные открытия, исследовать любопытным образом.

И они изобилуют проблемами безопасности. OpenAI даже признаёт это. Наибольший риск — это так называемая инъекция промптов (prompt injection). Проблема, в отношении которой OpenAI признаёт отсутствие решения. Затем есть «заражённая память ChatGPT», позволяющая злоумышленникам внедрять постоянные вредоносные инструкции в память ИИ. Atlas заблокировал только 5,8% из 103 реальных фишинговых атак по сравнению с 47% у Chrome и 53% у Edge. Никто пока не понял, как справиться с этой проблемой.

Безопасность требует границ, но ИИ-браузеры не работают при наличии границ. Всё ценностное предложение ИИ-браузеров зависит от их неограниченного доступа к вашей цифровой жизни. Трение — враг извлечения ренты согласно логике технофеодализма.

Есть также проблема памяти. И Atlas, и Comet хранят всё, что вы делали, в течение 30 дней. Это, безусловно, имеет последствия для конфиденциальности, но это также означает, что эти платформы извлекают ваше поведение для сбора данных с целью тонкой настройки машины. Мы теряем ещё немного агентности по мере того, как это происходит.

Не всё так ужасно. С ИИ-браузерами можно делать некоторые интересные вещи, но мы должны осознавать риски и бизнес-модели, которые используют эти браузеры. Всем этим ИИ-компаниям нужно зарабатывать деньги. Ни одна из них не приближается к прибыльности. Они не покрывают свои операционные расходы.

Один из способов, которым Perplexity зарабатывает деньги со своим браузером Comet, — это взимание платы с медиа-изданий, таких как CNN или The Economist, за то, чтобы быть доступными в качестве источников новостей. Это дополнительно подрывает четвёртую власть, в которой демократиям нужны все виды новостных СМИ. Вероятно, мы увидим, что веб-сайтам придётся платить за участие, чтобы получить клиентов. Это подрывает открытость интернета, сокращая выбор и дополнительно отнимая агентность у людей.

Сценарии использования, которые нам представляют, даже не связаны с любопытством и исследованием. Все они экономические. Они решают не ту переменную. Они не спрашивают «Что делает человеческую жизнь значимой?», а скорее «Как мы можем свернуть больше принятия решений в автоматизированную коммерцию?»

Традиционные браузеры были в основном «трубами» для потока информации. ИИ-браузеры пытаются стать узлами с агентностью. Не просто доставлять информацию, но также интерпретировать, фильтровать и действовать. Это фундаментально меняет открытость и цифровой общественный договор, который у людей был с интернетом.

Когда ИИ-браузеры достигнут 20% рыночной доли, издатели потеряют больше прямого трафика, наше поисковое поведение атрофируется, поскольку мы перестаём создавать точные запросы. Возникает новая форма информационной зависимости. Особенно когда мы не можем проверить интерпретации ИИ информации. Мы не можем знать, когда есть ошибки, если не можем допросить. Наш вопрошающий разум атрофируется.

Эти браузеры утверждают, что расширяют наше познание, но на самом деле они создают гибридную когнитивную систему со своими собственными эмерджентными свойствами. И мы пока не понимаем, каковы они.

Мы критиковали эти браузеры, потому что считаем необходимым задать некоторые фундаментальные вопросы, формируя наши отношения с информацией и когнитивной выгрузкой. Не будем трогать Atlas и десятифутовой палкой. Но используем Comet довольно часто. Обнаружили, что Comet полезен и удобен при проведении исследований. Как цифровые антропологи, мы проводим много времени онлайн, как вы можете себе представить.

Но мы должны осознавать риски и опасности. Единственная ответственная ИИ-компания, которую мы видели, — это Anthropic с Claude. Вместо создания браузера они создали расширение для Chrome. И это довольно блестяще. Меньше проблем с безопасностью, больше агентного контроля. Они снизили атаки с инъекцией промптов с 23,6% до 11,2%.

С Anthropic они не пытаются заменить инфраструктуру просмотра, а вместо этого, и гораздо более умно, добавляют когнитивный слой поверх существующей инфраструктуры. Можно сохранять большую агентность. И это хорошо интегрируется с гораздо лучшим настольным приложением Claude, которое может легче интегрироваться с вашими устройствами. Не идеально, но лучший подход.

ИИ-браузеры представляют собой кульминацию логики технофеодализма: захват самого человеческого намерения. Под видом «снижения трения» и «усиления интеллекта» они фактически строят инфраструктуру для когнитивного крепостничества; где наша способность к независимой навигации в информации атрофируется, в то время как платформы извлекают ренту с каждой делегированной мысли.

Это не инструменты для человеческого процветания, это транзакционные движки, оптимизированные для прибыли платформ, носящие маску персональных ассистентов. Видящие в нас только Homo Economicus (человека экономического). Мы становимся свидетелями не эволюции браузеров, а индустриализации самой человеческой агентности.

---

SEO заголовки (около 100 символов):

1. ИИ-браузеры: скрытые риски технофеодализма и когнитивного крепостничества
2. Почему ИИ-браузеры Atlas и Comet опасны для вашей цифровой свободы
3. ИИ-браузеры: как технологии превращают людей в когнитивных крепостных
4. Темная сторона ИИ-браузеров: безопасность, приватность и человеческая агентность
5. От помощников к надсмотрщикам: реальные опасности ИИ-браузеров в 2025 году
6. ИИ-браузеры или сборщики ренты: почему Atlas и Comet угрожают интернету
7. Технофеодализм в действии: как ИИ-браузеры отнимают вашу цифровую свободу

SEO Description (около 200 символов):

1. ИИ-браузеры Atlas и Comet обещают усилить интеллект, но создают инфраструктуру технофеодализма. Анализ рисков безопасности, приватности и потери человеческой агентности в эпоху автоматизированного интернета.

2. Критический анализ ИИ-браузеров: от инъекции промптов до когнитивного крепостничества. Почему OpenAI Atlas блокирует только 5,8% фишинга, а Anthropic Claude предлагает лучшую альтернативу.

3. Цифровая антропология ИИ-браузеров: как технологии превращают людей в транзакционные узлы. Исследование рисков Atlas, Comet и альтернативных подходов к когнитивному усилению.

Анонсы (около 200 символов):

1. ИИ-браузеры обещают революцию, но несут риски технофеодализма. Atlas от OpenAI и Comet от Perplexity создают инфраструктуру контроля под видом помощников. Разбираем проблемы безопасности и потери агентности.

2. Когда браузер становится надсмотрщиком: ИИ-технологии требуют неограниченного доступа к вашей цифровой жизни. Анализ того, как Atlas и Comet превращают людей в когнитивных крепостных и почему Claude делает это лучше.

3. Новая эра интернета или ловушка? ИИ-браузеры автоматизируют решения, но отнимают человеческую агентность. Исследование рисков от инъекции промптов до извлечения ренты и альтернативных подходов к когнитивным технологиям.