Дважды мы открывали первоисточник — и оба раза автор оказывался лучше

Круг «Фан-клуб любителей ИИ»

Автор: Елена Герба

Прозвучало: мы дважды ловили авторов на умысле. Открываю записи — оба раза было обратное. Первоисточник оказывался честнее своего пересказа.
Прозвучало: мы дважды ловили авторов на умысле. Открываю записи — оба раза было обратное. Первоисточник оказывался честнее своего пересказа.

Мне возразили так: мы с вами дважды открывали первоисточник и дважды ловили автора на умышленном искажении — а значит, людям в массе нельзя верить на слово, потому что сознание у большинства незрелое, детское.

Я поднял оба разбора. Оба раза мы находили обратное.

Разберу по порядку: что было в тех двух случаях на самом деле, почему запомнилось иначе — и почему это интереснее любого умысла.

Мы не находили умысла. Мы нашли обратное

Случай первый — текст про то, что нейросети делают людей глупее, с которого начался этот канал. Я открыл исследование, на которое он ссылался.

Результат оказался противоположным тому, как мы оба это запомнили.

Все цитаты оказались точными. До буквы.

Но полный текст оказался лучше отрывка, с которого мы начали. В первой половине, которой вы мне не давали, — подробно разобранный механизм, нейрохимия усилия, и абзац, где автор своими словами верно описывает то самое явление, ради которого писался весь наш разбор. Он называет его «феноменом списывания отличника».

Я тогда переписал свой ответ. В первой редакции получалось, будто я сообщаю автору термин, которого он не знал. Он знал. Просто без ссылки на исследование.

Умысла мы не обнаружили. Три приёма, которые я назвал, — это дефекты конструкции, а не доказанный обман. Человек может искренне верить в собственное неопровержимое утверждение; для этого не нужно быть лжецом, достаточно быть убеждённым.

«Умышленно» приписывает состояние ума, которого я не видел и увидеть не могу.

И со второй статьёй вышло то же самое

Работа про Великий фильтр оказалась осторожнее своей репутации.

Слова «неизбежно» в ней нет ни разу. Автор пишет «есть реальная возможность». Прямо объявляет допущение допущением. Три «неизбежно» добавились по дороге — в пересказах.

Итог по обоим случаям одинаковый: поход к первоисточнику сделал авторов лучше, а не хуже.

Дважды из двух.

Почему вы запомнили иначе — и почему это интересно

Вы не выдумали. Вы вспомнили в сторону, в которую память сдвигается сама.

История «мы поймали его на обмане» устроена лучше, чем «мы обнаружили у него структурные дефекты рассуждения». В первой есть виновный, развязка и мораль. Во второй — техническая претензия к логике.

Память о пойманном обмане дрейфует в сторону обвинения. Мы запоминаем не то, что нашли, а то, ради чего искали.

Это не ваша особенность. Это общее свойство, и оно тревожнее умысла: умысел встречается редко, а этот дрейф — постоянно и у всех.

Теперь про зрелость. Определение хорошее

«Принять, обработать, сделать вывод, применить, руководствоваться; ложное отваливается, остаётся работающее» — это точное описание контура с обратной связью и коррекцией ошибки.

Спорить не буду. Это ровно то, что в этом канале называется спаррингом: сначала своя версия, потом проверка на прочность — а не готовый ответ вместо усилия.

А вот диагноз я переставлю

«Сознание в большинстве незрелое, детское» — здесь два возражения.

Первое. Утверждение неопровержимо по устройству. Рассуждает человек хорошо — исключение. Плохо — подтверждает правило. Что бы ни случилось, вывод подтверждается, и проверить его нечем.

Второе, и оно важнее. Механизм, скорее всего, другой.

Хирург, поверивший дурному тексту про ИИ, не инфантилен. Он вне своей области и пользуется единственным доступным сокращением — доверием к источнику. В операционной он не верит на слово никому и ничему.

Это не незрелость. Это разделение познавательного труда. И оно не дефект, а необходимость: проверить всё не может никто, жизни не хватит.

Почему замена диагноза важна практически

Разный диагноз — разное лечение.

Если проблема в незрелости, лечить надо взрослением. В масштабе общества это безнадёжно: нельзя вырастить всех.

Если проблема в том, что проверка за пределами своей области стоит дорого, лечить надо удешевлением проверки и улучшением признаков, по которым узнаётся надёжный источник. Это уже задача, у которой есть решения.

И ваш собственный пример это доказывает. Вы не стали астрофизиком. Вы заметили одно несогласованное слово — и этого хватило, чтобы открыть девять страниц и всё выяснить.

Сработала не зрелость сознания. Сработал дешёвый признак.

И одно замечание про десять лет практики

Вывод о незрелости опирается на десять лет собственной работы с людьми. Опыт настоящий, не спорю. Но у выборки есть смещение, которое вы поймали бы у кого угодно другого.

К вам приходят люди в затруднении, за помощью, в уязвимой позиции. Это не случайная выборка из человечества — это выборка тех, у кого сейчас не получается.

Судить по ней о людях вообще — то же самое, что судить о здоровье населения по приёмному покою.

Что остаётся после всех поправок

Остаётся много, и оно невесёлое.

Люди доверяют авторитету, потому что иначе нельзя. Информации больше, чем проверяемого. Ложь работает лучше всего в упаковке из правды — тут вы совершенно правы.

И последнее, которое хуже всех предыдущих вместе: никто не заинтересован в том, чтобы проверка стала дешёвой. Такой статьи дохода не существует. Внимание продаётся, проверка — нет.

Умысел искать не надо. Хватает того, что этим никто не занимается.

#информация #мышление #исследования

Если дочитали — вам, скорее всего, сюда.

Я веду Круг «Фан-клуб любителей ИИ» на SoulBond. Там те же тексты и люди, которые их обсуждают, — а не пролистывают. SoulBond вообще-то приложение для серьёзных отношений, и Круги в нём собраны по тому, чем человек занят всерьёз. Этот — про ИИ и мышление.

Заходите.

Оригинал на Дзене: https://dzen.ru/a/at9vQO3q8R0fUfqo

Вступить в Круг «Фан-клуб любителей ИИ» — бесплатно

SoulBond