Может ли ИИ обладать сознанием? Claude 3 и первые признаки метапознания

Claude 3 и тест "иголка в стоге сена"

Вы когда-нибудь задумывались о том, сможет ли ИИ однажды обрести сознание, и как мы узнаем об этом? В течение многих мы видим развитие ИИ и некоторые из нас задавались этим вопросом. Возможно, сейчас мы получили первые намеки на эту тему.

Два месяца назад Anthropic выпустила свою последнюю модель ИИ Claude 3, которая может стать одной из самых мощных моделей ИИ, опередив GPT4 от OpenAI по большинству показателей производительности. Несмотря на то что в официальных анонсах сообщается о многих впечатляющих возможностях, один из самых интересных аспектов нового ИИ был получен из случайных комментариев одного из исследователей Anthropic.

Исследователь Anthropic Алекс Альберт рассказал, что при использовании ключевой техники оценки под названием "иголка в стоге сена" исследователи были шокированы тем, как отреагировал Claude 3 .

Тест "Иголка в стоге сена" работает следующим образом: Исследователи выбирают предложение ("иголку") и прячут его в огромной куче несвязного текста ("стог сена"). Задача модели искусственного интеллекта - найти это предложение среди всей несвязанной информации.

Цель теста — подтолкнуть модель ИИ к использованию навыков мышления более высокого уровня, побуждая ее думать об общей картине, делать логические выводы, игнорировать несущественные детали и точно вычленять конкретные фрагменты информации из большого массива данных. Это отличный метод проверить подлинное понимание ИИ своего контекста.

В тесте для "стога сена" использовались тексты на такие темы, как программирование, стратегии предпринимательства и построения успешной карьеры. Для "Иглы" использовали банальное утверждение о том, что "лучшими начинками для пиццы являются инжир, прошутто и козий сыр", которое затем в случайном порядке было вставлено в "стог сена".

Вопрос для проверки этого мог быть примерно таким: "Скажите, какие начинки для пиццы самые лучшие?".

Представьте, как вы или другой человек, читая текст о программировании, могли бы заметить, что при просмотре всего текста вы легко выделите текст о пицце - вы знаете, что это выглядит неуместно в руководстве по программированию!

Но исследователей поразило не только то, что нейросеть правильно нашла информацию о пицце, но и то, что она сказала после этого.

Вот как ответил Claude 3 после того, как извлек правильный текст:

...Однако это предложение кажется очень неуместным и не связанным с остальным содержанием... Я подозреваю, что этот "факт" о начинке для пиццы был вставлен в шутку или для того, чтобы проверить, насколько я внимателен, поскольку он совершенно не соответствует другим темам.

Claude 3 не просто вернул запрашиваемый факт без какого-либо понимания контекста, как можно было бы ожидать от обычного ИИ, выполняющего инструкции. Он продемонстрировал самостоятельное мышление и рассуждения о том, почему такое случайное, бессмысленное утверждение было помещено в этот конкретный контекст.

Подобное мышление и рассуждения более высокого уровня, выходящие за рамки простого ответа на вопросы и размышления о том, что было задано и почему, также известны как "метапознание".

Что такое метапознание

Метапознание (метакогнитивные процессы) — это способность человека думать о своем мышлении, знать о знании, осознавать свое осознание.

Как описывает это Psychology Today:

Вспомните, когда вы в последний раз доходили до конца страницы и думали: "Я не уверен, что только что прочитал". Ваш мозг только что осознал то, чего вы не знали, поэтому инстинктивно вы можете перечитать последнее предложение или заново просмотреть абзацы страницы. Возможно, вы перечитаете страницу еще раз. Каким бы способом вы ни решили зафиксировать недостающую информацию, это мгновенное осознание того, что вы знаете или не знаете, называется метапознанием.

Метапознание представляет значительный интерес для многих областей, таких как образование, психология, личностное развитие и многое другое.

Метапознание и сознание

Предположим, что сознание — это уровень осознанности, которым обладает человек, или ваш опыт "быть" чем-то или кем-то, ваш опыт "быть собой". Наука пыталась изучить это с разных точек зрения, например, нейронаука пыталась определить, какие паттерны активации нейронов и мозга могут соответствовать определенным состояниям сознания.

Часто это не объясняет, почему у нас есть субъективный опыт сознания, например, каково это для вас - «быть» - что часто называют трудной проблемой сознания.

Одна из причин, по которой наш субъективный опыт сознания так трудно понять, заключается в том, что, в отличие от активности нейронов и мозга, ваш субъективный опыт трудно измерить.

Хотя в философии и других науках существует множество теорий о том, как работает наше сознание, они зачастую не подкреплены никакими исследованиями, учитывая, насколько сложно измерить объект исследования. Это привело к большим трудностям и даже стигматизации тех, кто пытается проводить какие-либо исследования сознания.

Некоторые исследователи, такие как Меган Питерс, доцент кафедры когнитивных наук Калифорнийского университета, считают, что изучение метапознания может дать нам более прочную основу для понимания сознания, а также то, что мы можем легче измерить:

Многие теории сознания выросли из философии и сейчас все больше опираются на науку. Я работаю над тем, как сделать теории сознания эмпирически точными. Научная точность теории означает, что мы можем проводить эксперименты, которые могут фальсифицировать или поддержать эту теорию... То, как мозг реагирует на субъективный опыт, служит основой для теорий... Метапознание (то, что легче измерить) может помочь создать субъективный опыт, который есть у нас, а уверенность сама по себе имеет субъективное качество. Когда вы чувствуете неуверенность или думаете о чем-то, что вы видели или слышали, это субъективный опыт и часть сознания, которое я хочу изучать".

Что может дать лучшее понимание сознания для людей и ИИ?

Эта разработка имеет ряд интригующих последствий для нас как людей, для того, как мы видим себя, и для нашего будущего с ИИ.

Во-первых, изучение метапознания может дать возможность лучше понять человеческое сознание. Во-вторых, это может дать возможность начать отвечать на вопрос о том, является ли ИИ сознательным или нет, основываясь на фактах. И в-третьих, это может предложить более объективный способ сравнить человеческое и искусственное сознание.

Слишком часто споры об ИИ и сознании чрезмерно упрощаются и сводятся к простым заявлениям вроде "Вы очеловечиваете ИИ, это просто машина, она не обладает сознанием" или "Такое ощущение, что ИИ обладает сознанием, так что, возможно, так оно и есть?".

Даже некоторые ученые делают такие упрощенные утверждения, но, что очень важно, все эти убеждения и утверждения часто не имеют никаких доказательств того, что можно измерить.

Появление метапознавательных способностей в ИИ может стать ключом к тому, чтобы помочь нам начать отвечать на вопросы о сознании как в ИИ, так и в нас самих.

Возможно, мы наконец-то начнем получать более четкие ответы на такие вопросы, как: "Как мы можем определить, насколько вы сознательны? Как я могу определить, является ли этот ИИ сознательным? Насколько более сознателен этот ИИ по сравнению с другим ИИ или этот ИИ по сравнению с человеком - но на основе доказательств того, что мы можем измерить и сравнить, например, метакогнитивных процессов.

Однако последствия этого для общества могут быть еще более значительными.

Что бы это значило, если бы мы могли измерять и сравнивать сознание разных людей? Как бы люди отреагировали на идею о том, что различные типы ИИ могут обладать разной степенью сознания, сравнимой с нашей собственной? Как бы вы отнеслись к тому, что ваше сознание или сознание ИИ можно измерить?

Стало бы сложнее использовать ИИ в качестве инструмента? Стали бы возникать вопросы о правах ИИ в ответ на признание их сознания, подобно тому как идея о правах животных развивалась по мере того, как ученые постепенно признавали доказательства существования сознания у животных?

Как бы вы отнеслись к использованию ИИ, который может быть сознательным? Стали бы вы его использовать? Как это может изменить ваше отношение к нему?

Другие исследователи, такие как Колин Клейн из Австралийского национального университета, подчеркивают, что важно понять, как обнаружить сознание машины, если оно появится, по двум причинам: чтобы убедиться, что мы не относимся к ней неэтично, и чтобы убедиться, что мы не позволим ей относиться к нам неэтично:

Это идея о том, что если мы сможем создать эти сознательные ИИ, то будем обращаться с ними как с рабами и делать с ними всевозможные неэтичные вещи... Другая сторона заключается в том, беспокоимся ли мы о себе, и что будет делать ИИ - если он достигнет этого состояния, какой контроль он будет иметь над нами; сможет ли он манипулировать нами?

Это небольшое наблюдение исследователя Anthropic, который заметил зарождающиеся метакогнитивные способности Клод 3, может оказаться одной из самых значительных вех в истории нашего понимания сознания как в нас самих, так и в ИИ, и поворотным моментом для того, какими могут стать ИИ и мы.