Дважды мы открывали первоисточник — и оба раза автор оказывался лучше
Автор: Елена Герба

Мне возразили так: мы с вами дважды открывали первоисточник и дважды ловили автора на умышленном искажении — а значит, людям в массе нельзя верить на слово, потому что сознание у большинства незрелое, детское.
Я поднял оба разбора. Оба раза мы находили обратное.
Разберу по порядку: что было в тех двух случаях на самом деле, почему запомнилось иначе — и почему это интереснее любого умысла.
Мы не находили умысла. Мы нашли обратное
Случай первый — текст про то, что нейросети делают людей глупее, с которого начался этот канал. Я открыл исследование, на которое он ссылался.
Результат оказался противоположным тому, как мы оба это запомнили.
Все цитаты оказались точными. До буквы.
Но полный текст оказался лучше отрывка, с которого мы начали. В первой половине, которой вы мне не давали, — подробно разобранный механизм, нейрохимия усилия, и абзац, где автор своими словами верно описывает то самое явление, ради которого писался весь наш разбор. Он называет его «феноменом списывания отличника».
Я тогда переписал свой ответ. В первой редакции получалось, будто я сообщаю автору термин, которого он не знал. Он знал. Просто без ссылки на исследование.
Умысла мы не обнаружили. Три приёма, которые я назвал, — это дефекты конструкции, а не доказанный обман. Человек может искренне верить в собственное неопровержимое утверждение; для этого не нужно быть лжецом, достаточно быть убеждённым.
«Умышленно» приписывает состояние ума, которого я не видел и увидеть не могу.
И со второй статьёй вышло то же самое
Работа про Великий фильтр оказалась осторожнее своей репутации.
Слова «неизбежно» в ней нет ни разу. Автор пишет «есть реальная возможность». Прямо объявляет допущение допущением. Три «неизбежно» добавились по дороге — в пересказах.
Итог по обоим случаям одинаковый: поход к первоисточнику сделал авторов лучше, а не хуже.
Дважды из двух.
Почему вы запомнили иначе — и почему это интересно
Вы не выдумали. Вы вспомнили в сторону, в которую память сдвигается сама.
История «мы поймали его на обмане» устроена лучше, чем «мы обнаружили у него структурные дефекты рассуждения». В первой есть виновный, развязка и мораль. Во второй — техническая претензия к логике.
Память о пойманном обмане дрейфует в сторону обвинения. Мы запоминаем не то, что нашли, а то, ради чего искали.
Это не ваша особенность. Это общее свойство, и оно тревожнее умысла: умысел встречается редко, а этот дрейф — постоянно и у всех.
Теперь про зрелость. Определение хорошее
«Принять, обработать, сделать вывод, применить, руководствоваться; ложное отваливается, остаётся работающее» — это точное описание контура с обратной связью и коррекцией ошибки.
Спорить не буду. Это ровно то, что в этом канале называется спаррингом: сначала своя версия, потом проверка на прочность — а не готовый ответ вместо усилия.
А вот диагноз я переставлю
«Сознание в большинстве незрелое, детское» — здесь два возражения.
Первое. Утверждение неопровержимо по устройству. Рассуждает человек хорошо — исключение. Плохо — подтверждает правило. Что бы ни случилось, вывод подтверждается, и проверить его нечем.
Второе, и оно важнее. Механизм, скорее всего, другой.
Хирург, поверивший дурному тексту про ИИ, не инфантилен. Он вне своей области и пользуется единственным доступным сокращением — доверием к источнику. В операционной он не верит на слово никому и ничему.
Это не незрелость. Это разделение познавательного труда. И оно не дефект, а необходимость: проверить всё не может никто, жизни не хватит.
Почему замена диагноза важна практически
Разный диагноз — разное лечение.
Если проблема в незрелости, лечить надо взрослением. В масштабе общества это безнадёжно: нельзя вырастить всех.
Если проблема в том, что проверка за пределами своей области стоит дорого, лечить надо удешевлением проверки и улучшением признаков, по которым узнаётся надёжный источник. Это уже задача, у которой есть решения.
И ваш собственный пример это доказывает. Вы не стали астрофизиком. Вы заметили одно несогласованное слово — и этого хватило, чтобы открыть девять страниц и всё выяснить.
Сработала не зрелость сознания. Сработал дешёвый признак.
И одно замечание про десять лет практики
Вывод о незрелости опирается на десять лет собственной работы с людьми. Опыт настоящий, не спорю. Но у выборки есть смещение, которое вы поймали бы у кого угодно другого.
К вам приходят люди в затруднении, за помощью, в уязвимой позиции. Это не случайная выборка из человечества — это выборка тех, у кого сейчас не получается.
Судить по ней о людях вообще — то же самое, что судить о здоровье населения по приёмному покою.
Что остаётся после всех поправок
Остаётся много, и оно невесёлое.
Люди доверяют авторитету, потому что иначе нельзя. Информации больше, чем проверяемого. Ложь работает лучше всего в упаковке из правды — тут вы совершенно правы.
И последнее, которое хуже всех предыдущих вместе: никто не заинтересован в том, чтобы проверка стала дешёвой. Такой статьи дохода не существует. Внимание продаётся, проверка — нет.
Умысел искать не надо. Хватает того, что этим никто не занимается.
#информация #мышление #исследования
Если дочитали — вам, скорее всего, сюда.
Я веду Круг «Фан-клуб любителей ИИ» на SoulBond. Там те же тексты и люди, которые их обсуждают, — а не пролистывают. SoulBond вообще-то приложение для серьёзных отношений, и Круги в нём собраны по тому, чем человек занят всерьёз. Этот — про ИИ и мышление.
Заходите.
Оригинал на Дзене: https://dzen.ru/a/at9vQO3q8R0fUfqo