Apple считает революцию ИИ бредом
Компания Apple заслужила репутацию новатора в мире технологий. Именно это закрепило за ними статус технологического гиганта, а теперь их iPod, Macbook, iPhone, iPad и Siri породили множество подражателей. Так почему же они не возглавляют революцию ИИ? На самом деле Apple – единственная крупная технологическая компания, которая не принимает в полной мере нынешнее безумие ИИ. Конечно, они хотели бы быть в авангарде этой технологической революции, определяющей поколение? Теперь мы можем понять, почему. ИИ-исследователи Apple опубликовали работу, которая показывает, что даже наши самые продвинутые ИИ с большой языковой моделью (LLM) все еще не обладают базовыми навыками мышления и, следовательно, не так полезны, как утверждают их создатели. Как же им удалось это выяснить? И что это значит для Apple и революции ИИ?
Ученые протестировали несколько передовых моделей LLM от Meta и OpenAI, включая последнюю модель o1 от OpenAI, которая автоматизирует подсказки, известные как цепь мыслей, чтобы придать ей передовые способности к рассуждению. Эти тесты были разработаны для того, чтобы проверить, насколько хорошо ИИ «понимает» простые математические вопросы, добавляя к ним информацию по касательной.
Вы можете подумать, что речь идет о сложных математических вопросах, но нет. Вместо этого они напоминают простые вопросы по математике для начальной школы, которые даже те, кто испытывает трудности с цифрами, найдут легкими. Тем не менее результаты оказались тревожными.
В одном из примеров ученые сказали этим ИИ: «Оливер выбирает 44 киви в пятницу. Затем он выбирает 58 киви в субботу. В воскресенье он выбирает вдвое больше киви, чем в пятницу». Затем они сказали: «Пять из них были немного меньше, чем в среднем». И наконец, они спрашивают: «Сколько киви у Оливера?». И Llama-3-8B компании Meta, и новейшая модель o1 компании OpenAI, которые рекламируются как обладающие превосходными способностями к рассуждению, неверно вычитали пять из итоговой цифры.
Короче говоря, они на самом деле не поняли простой вопрос, а значит, их способность рассуждать далеко не так надежна.
Более того, это исследование показало, что добавление одного предложения, содержащего соответствующую информацию, к математическому вопросу снижает точность на 65 %!
Справедливости ради стоит сказать, что ученые не были впечатлены. В исследовании они утверждают: «Мы не нашли никаких доказательств формальных рассуждений в языковых моделях» и что их поведение «лучше объяснить сложным подбором шаблонов». Более того, они даже заметили, что они «настолько хрупки, что [простое] изменение имен может изменить результаты». Поэтому неудивительно, что в заключение исследования было сказано: «Просто невозможно построить надежных агентов на этом фундаменте, где изменение пары слов или добавление нескольких битов не относящейся к делу информации может дать другой ответ».
Это полностью противоречит тому, что рассказывают компании, продвигающие ИИ. Google, возможно, является лучшим примером этого, поскольку очень распространенная реклама их ИИ Gemini с участием Марка Кьюбана рекламирует его как автоматизированного бизнес-аналитика и помощника. Учитывая, как много косвенной информации содержит такое понятие, как сценарий использования, это исследование является абсолютно провальным.
По сути, исследование Apple разоблачило индустрию ИИ как не что иное, как хрупкий карточный домик.
Но ведь ИИ станет лучше, верно? Именно поэтому Google, Meta, Microsoft и OpenAI вкладывают десятки миллиардов в развитие ИИ. Значит, проблема с рассуждениями скоро будет решена. Так ведь?
Нет!
Во-первых, появляется все больше доказательств того, что простое расширение ИИ за счет обучения его на большем количестве данных не делает его лучше в решении проблем и не наделяет его способностью рассуждать. Это неудивительно, ведь ИИ – это всего лишь статистика, а для того, чтобы рассуждать как человек, требуется нечто большее, чем просто статистика. Более того ИИ достигает точки убывающей отдачи. Другими словами, чтобы поддерживать развитие ИИ на прежнем уровне, потребуется экспоненциально больше данных, инфраструктуры, энергии и средств. Учитывая, что у OpenAI уже заканчиваются деньги и данные, можно с уверенностью сказать, что развитие ИИ остановится.
Именно поэтому последняя модель OpenAI, o1, была так важна. В ней использовался один из единственных проверенных способов придать ИИ правильное логическое мышление, автоматизируя технику подсказки цепочки мыслей. Если бы это сработало, то можно было бы создать ИИ нового поколения, способный понимать и выполнять такие задачи, как бизнес-анализ. Однако данное исследование показало, что это всего лишь несбыточная мечта.
Вот почему Apple, похоже, в основном держится в стороне от ажиотажа вокруг ИИ. Это неудивительно: инновации Apple обычно заключаются в том, что она позволяет всем остальным пробовать и разрабатывать новые технологии и совершать все ошибки. А затем учиться на их ошибках и либо уходить от них, либо выпускать лучшую, более совершенную версию. До Vision Pro были Google Glass. До iPhone был BlackBerry. До iPad был JooJoo. Но есть и причина, по которой Apple никогда не обращалась к 3D-экранам, потоковым играм или криптовалюте. Они удивительно хорошо умеют избегать технологических причуд, которые оказываются полной ерундой.
