Затем, в 2005 году, Princeton University Press решила переиздать его в виде крошечной книги в твёрдой обложке — всего 67 страниц, такой маленькой, что она легко помещалась в задний карман. За месяц было продано более 110 000 экземпляров. Небольшая книга профессора философии с грубоватым названием внезапно стала настоящим бестселлером.
В основе всей аргументации «О чуши» лежит различие, которое большинство из нас никогда не пыталось провести, хотя каждый день сталкивается с обоими типами людей…
Лжец и человек, несущий чушь, — не одно и то же.
Лжец знает правду. Именно это главное. Он точно знает, что правда, и усердно старается увести вас от неё. Как ни странно, это означает, что лжец всё же уважает правду. Иначе нельзя. Поэтому он постоянно держит её в поле зрения, чтобы понимать, что скрывать. Лжец и честный человек играют в одну и ту же игру — просто по разные стороны.
Человек, несущий чушь, вообще не играет в эту игру. Он не знает, что правда, и ему всё равно. Он скажет вам, что небо зелёное, если это поможет ему поддержать разговор, а через тридцать секунд заявит, что оно голубое, если так будет удобнее. Для него правда и ложь не различаются, потому что он не стремится ни к тому, ни к другому. Он стремится произвести хорошее впечатление.
Именно поэтому, утверждал Франкфурт, человек, несущий чушь, опаснее из этих двоих. Лжец хотя бы признаёт, что где-то существует правда. А тот, кто несёт чушь, просто решил, что это не имеет значения.
А теперь запомните эту мысль и поговорим о том, что у вас в телефоне.
Ваш ИИ на базе LLM вам не лжёт
Есть утешительная версия, которой люди объясняют галлюцинации ИИ на базе LLM. Машина «ошиблась». «Запуталась». «Солгала». И почему-то нас приучили спускать ей это с рук. Но всё это не совсем верно, и различие здесь не сводится к пустым придиркам.
Вот простая и ясная правда. Большая языковая модель не знает, что правда. Её никогда не создавали для этого.
За всем блеском и лоском скрывается одна задача: угадать следующее слово на основе закономерностей, обнаруженных в обучающих данных. Её связь с правдой не прочнее, чем связь флюгера с ветром.
Она просто поворачивается туда, куда её гонит ветер вероятностей, и делает это с одинаковой невозмутимой уверенностью — независимо от того, права она или пересказывает откровенную выдумку.
Иными словами, ваш ИИ на базе LLM не лжец. Он несёт чушь.
И это не какая-то раздутая философская дискуссия. Всё это видно по цифрам, и цифры пугают. В исследовании Стэнфорда 2024 года протестированные модели галлюцинировали в 58–88% ответов на конкретные, поддающиеся проверке вопросы о случайно выбранных делах федеральных судов. Такие результаты были получены при ответах на вопросы юридического исследования, где убедительно звучащие ответы могут попасть в документ, подписанный чьим-то именем.
Юристы по делу Mata против Avianca усвоили это на горьком опыте. Один из них воспользовался ChatGPT для юридического исследования, а в поданном в суд документе сослался на несуществующие дела. Ещё хуже то, что, когда суд запросил копии, юристы представили якобы судебные заключения, которые тоже оказались выдуманными. ChatGPT даже уверил юриста, что одно из придуманных им дел есть в крупных юридических базах данных. Его там не было. Судья наложил санкции на юристов и их фирму.
Это не ложь. Лжец хотя бы знал бы, что дела вымышленные. Здесь же была чистая чушь — в точном смысле, о котором писал Франкфурт. Машина понятия не имела, правда ли хоть что-нибудь из сказанного, и, что важнее, ей было всё равно — да и не было ни возможности, ни причины заботиться об этом.
Что нужно, чтобы действительно заботиться о правде
Вот о чём никто не хочет говорить вслух. Нельзя исправить чушь, просто сделав её более гладкой. Более отточенный пустослов — это всего лишь пустослов, которому вы будете верить дольше. А вся индустрия LLM продолжает создавать всё более крупные, гладкие и красноречивые версии одной и той же машины, а потом удивляется, когда та обманывает людей всё убедительнее.
Решение не в том, чтобы просто сделать из неё лучшего лжеца, хотя, как ни удивительно, некоторые действительно пытались. Нужно требовать ответа, который показывает, как он соотносится с доказательствами. Что его подтверждает? Где заканчивается эта опора? В какой момент система начинает выдавать желаемое за действительное? Именно это должен уметь увидеть специалист в любой области, прежде чем довериться тому, что звучит убедительно.
Эту проблему Vertus решает с помощью того, что называет метакогнитивным анализом траектории рассуждений. По словам Vertus, система анализирует ход своих рассуждений и определяет, где доказательная база прочна, а где становится слабее. Смысл в том, чтобы показать, где проходит эта граница, а не приукрашивать неподкреплённое утверждение — словно свинью, нарумяненную помадой, — и выпускать его в свет. Это не делает ИИ безошибочным. Но человеку, который им пользуется, становится понятнее, что нужно проверить.
Это и есть ответ на предостережение Франкфурта. Опасно не просто ошибиться. Опасно звучать столь же уверенно, когда твёрдая почва под ответом уже исчезла. И если под документом будет стоять ваше имя, вам нужно понимать, где заканчивается земля, на которой вы стоите.
Проверка реальностью
Годами мы восхищались тем, как хорошо эти LLM умеют говорить, и почти ни разу не задавались единственным по-настоящему важным вопросом: понимают ли они хоть сколько-нибудь, правда ли то, что они говорят.
Правда в том, что чаще всего — нет.
Ответ, который идеально подходит к вопросу, но ссылается на дело, которого никогда не существовало, — это не помощник, словам которого можно доверять. Это очень дорогой пустослов с отличным словарным запасом, и неизвестно, скольким людям он успеет навредить, прежде чем кто-нибудь догадается всё проверить.
Франкфурт предвидел всё это за десятилетия до появления подобных технологий — всего на шестидесяти семи страницах карманного формата. Настоящая опасность заключалась никогда не в уверенном лжеце, который знает правду и скрывает её. Она — в красноречивом собеседнике, которому стало всё равно, существует ли вообще правда, о которой стоило бы беспокоиться.
Так что в следующий раз, когда LLM выдаст вам ответ, звучащий как надо, проверьте его реальностью и задайте единственный вопрос, который имеет смысл. Ей действительно важно, правда ли это, или она просто считает, что ответ звучит убедительно?
Vertus создана, чтобы показать, в чём заключается эта разница. И, как выясняется, это самое главное.
Источники
• Princeton Alumni Weekly, «Блокнот», 20 апреля 2005 года. https://www.princeton.edu/~paw/archive_new/PAW04-05/13-0420/notebook.html
• Stanford RegLab, «Большие юридические вымыслы: анализ галлюцинаций в области права в больших языковых моделях», Journal of Legal Analysis, 2024 год. https://doi.org/10.1093/jla/laae003
• Окружной суд США Южного округа Нью-Йорка, дело Mata против Avianca, заключение и постановление о санкциях, 22 июня 2023 года. https://law.justia.com/cases/federal/district-courts/new-york/nysdce/1%3A2022cv01461/575368/54/
Опубликовано 2 октября 2026 - 02:13 Наверх
