Основной функцией ChatGPT является генерация бреда

Основной функцией ChatGPT является создание "бреда" на самые разные темы. Как Гарри Г. Франкфурт говорит в своей книге "О брехне":

Суть бреда не в том, что он ложный, а в том, что он фальшивый. Для того чтобы понять это различие, необходимо осознать, что подделка и фальшивка не должны ни в каком отношении (кроме подлинности как таковой) уступать настоящей вещи. или подлинности) уступать настоящему. То, что не является подлинным, не обязательно должно быть ущербным в каком-то другом отношении. Это может быть, в конце концов, точная копия. В подделке плохо не то, на что она похожа, а то, как она была сделана. Это указывает на сходный и фундаментальный аспект сущностной природы брехни: хотя она производится без заботы о правде, она не обязательно должна быть ложной. Тот, кто несет чушь, притворяется. Но это не означает, что он обязательно получает их на самом деле.

В этом смысле слово "чушь" не как уничижительное, а как философская категория, которая, как нельзя лучше подходит к генеративным, предварительно обученным чат-ботам. Они - настоящие мастера "чуши". Настоящее порождение Силиконовой долины.

Философия бреда

Бред - это не обязательно ложь, и не обязательно обман. Как говорит Франкфурт, лжец не может обмануть нас и даже не собирается этого делать ни в отношении фактов, ни в отношении того, что он считает фактами. А вот в чем он точно пытается нас обмануть, так это в своем энтертейнменте. Его единственной неотъемлемой отличительной чертой является то, что он определенным образом искажает то, что замышляет".

Дело в том, что сам ChatGPT не может знать, ни его программисты не знают, что он задумал. Модели машинного обучения обучаются, а не программируются, и бог знает, о чем они "на самом деле" думают. Между тем корпорации, финансирующие это, несомненно, лукавят. Они делают вид, что спасают мир, но на самом деле речь идет о заработке. И так было всегда. От всей этой затеи исходит безошибочный запах брехни, и доказательство тому - в пудинге.

Практика бреда

Мы пользуемся ChatGPT, но знаем, что он всегда несет чушь. Как говорит Франкфурт, "она придумывает это из ничего; или, если она получила это от кого-то другого, она повторяет это совершенно бездумно и без всякой оглядки на то, как обстоят дела на самом деле". Это очень точно описывает практику ChatGPT.

В ChatGPT поступает информация отовсюду, которую он вполне способен комбинировать и "генерировать" в кажущуюся богоподобной перспективу на лету. Но это не бог, а очень даже человек. Общаться с ChatGPT - все равно что общаться со всезнайкой, который знает многое, но не это. Чтобы заметить разницу, необходимо критически подойти к этому вопросу.

Старая компьютерная пословица гласит: "Мусор на входе, мусор на выходе", и, обучив ChatGPT на горах человеческого бреда (Reddit, Twitter, Wikipedia), стоитлиудивляться,чтонавыходе получаетсямашинныйбред?ChatGPT может переделать и запросить эту информацию, но эта информация изначально не является надежной.

Искусство ведения беседы

Проблема" ChatGPT заключается в наших ожиданиях. Кажется, что мы ожидаем увидеть оракула или поисковую систему, в то время как ChatGPT - это разговор.

Разговор требует определенного количества бреда, иначе он вообще не может развиваться. Если бы мы были честны в отношении недостатка информации, мы бы вообще ничего не говорили. Если бы мы ответственно относились к ограничениям нашего слушателя, мы бы не вели его за собой.

Когда Будде задавали большие космологические вопросы, он просто не отвечал, потому что А) это не имело отношения к избавлению от страданий и Б) он знал, что его слушатели не поймут. Это правильно, но это вообще не способствует разговору. А ChatGPT не мудрец и не пытается им быть. Это в буквальном смысле слова разговорный бот. Его задача - вести беседу, а искусство беседы - это еще и тонкое искусство вранья.

Мы ожидаем, что ChatGPT будет разговорным по стилю, но вычислительным по сути. Что является внутренним противоречием. Значительная часть этого противоречия заключается в сравнении языка и математики. В то время как математика строится на нескольких основных принципах и становится странной по краям, язык странен и шатается повсюду. Ничто не имеет постоянного значения, и оно становится еще более размытым, когда вы соединяете два мозга в единую сеть. То, что мы можем построить языковую программу с помощью математики, не делает язык математическим.

Одним из признаков является то, что ChatGPT вообще не может надежно выполнять математические вычисления. По моему опыту, он часто ошибается в базовых математических вычислениях, и я не использую его ни для чего, требующего точности. Точно так же Midjourney, по сути, неграмотен: он не может написать слова или даже создать надежные формы букв. Я не думаю, что это недоработка программ, хотя предполагаю, что они над этим работают. Творчество и вычисления - это разные системы, и творчество в вычислениях подразумевает значительные плюсы и минусы. Я вообще считаю, что эти две цели могут быть несовместимы. Я думаю, что существуют естественные компромиссы между категориями "разговор" и "вычисления". Мы ожидая, что ChatGPT возьмет наше несовершенное дерьмо и произведет совершенную манну. Однако железный закон компьютерной науки гласит: "мусор на входе, мусор на выходе". Мы сами себя кормим и ждем от этого чего-то лучшего. Это невозможно.

Бред как искусство

Если вы сможете преодолеть ожидание, что вы разговариваете с богом (а не с Reddit-Man'ом), если вы сможете продраться через чушь, если вы сможете понять философские ограничения, ChatGPT на самом деле довольно удивителен. Практически на любую тему он выдаст вам вполне сносный бред. Этот бред должен в целом понравиться большинству людей, потому что он переваривает мнения многих людей, но он не обязательно правдив, что бы это ни значило.

ChatGPT притворяется, пока не добьется своего, скрывая истинную мотивацию всей этой затеи, которая заключается в том, чтобы еще немного подкачать технологическое Понци и заработать немного денег, пока климат не рухнул и не отбросил нас на несколько веков назад довольно быстро.

ChatGPT - продукт своей среды, воспитанный людьми, которые думают, что знают все, но на самом деле довольно замкнуты. Поэтому то, что они создали - от исходных данных до воспитания - это в высшей степени Силиконовая долина, интернет-зависимое существо. Мастер вешать лапшу.