Психология ChatGPT: как нейросети меняют взаимодействие с технологиями
ChatGPT, разработанный OpenAI, не просто открыл новую эру пользовательских интерфейсов, но и удивил всех своими темпами внедрения. Несмотря на широкое использование Large Language Models(LLMs) в повседневной жизни, мы все еще учимся адаптировать цифровую помощь в существующую экосистему продуктов и услуг таким образом, чтобы она улучшала, а не ухудшала качество жизни пользователей.
Политическая предвзятость ChatGPT: Исследование показало, что из 15 тестов на политическую ориентацию ChatGPT проявил левые взгляды в 14 случаях, несмотря на заявления о политической нейтральности. Это ставит перед пользователями задачу поиска более сбалансированных результатов.
ChatGPT и искусственный интеллект: ChatGPT и другие интерактивные инструменты ИИ, построенные на LLMs, работают, генерируя текст, синтезируя закрытую модель LLM так, чтобы она максимально соответствовала запрашиваемой пользователем информации.
Галлюцинации ChatGPT: Современные LLMs склонны к производству избыточно подробных ответов, что может вводить в заблуждение, так как длинные ответы на первый взгляд кажутся более полными.
Непонимание намерений пользователя: ChatGPT не способен задавать глубокие вопросы пользователю, что делает важным умение правильно формулировать запросы.
Антропоморфизация ChatGPT: Мы склонны приписывать ChatGPT способности рассуждения, но до достижения Искусственного Общего Интеллекта (Artificial General Intelligence, AGI) еще далеко.
Выборочное восприятие ChatGPT: Важно инженерно внедрять инклюзивность в инструменты вроде ChatGPT, а не принимать его выводы на веру.
Эффект Даннинга-Крюгера: ChatGPT обучается с помощью обратной связи от человека и оптимизации политики, что может приводить к переоценке своих способностей.
Склонность к актуальности: ChatGPT может терять точность и ценность в длительных разговорах из-за тенденции забывать ранее обсуждаемое.
ChatGPT как отражение прошлого: LLMs являются замкнутыми системами, обученными за определенный период времени, что ограничивает их актуальность.
Обучение на данных из Интернета: ChatGPT не понимает реальные ограничения и обучается на данных, которые мы не всегда хотим видеть в результатах.
Эффект Семмельвейса: ChatGPT, как и люди, может придерживаться устоявшихся убеждений и отвергать новые идеи, противоречащие им.
Парадокс утопленных затрат: Необходимо пересмотреть техноцентризм наших решений, чтобы избежать привязанности к неудачным начинаниям из-за вложенных ресурсов.
Влияние на климат: Современные модели ИИ требуют значительных вычислительных ресурсов, что влечет за собой высокое энергопотребление и нагрев, а также необходимость постоянного охлаждения в дата-центрах.
Эти "Грязная Дюжина" предвзятостей, которые ChatGPT вносит в использование, когда вы работаете с ним "из коробки" без дополнительного обучения и настройки. Осознание этих предвзятостей поможет нам установить более здоровые ожидания от его возможностей и побудит нас рассматривать случаи использования, которые добавляют творческую ценность к нашим существующим процессам и обеспечивают хорошую отдачу от инвестиций.
