«Я знаю кунг-фу»: делает ли ИИ нас глупее — и почему вопрос задан неверно
Автор: Елена Герба
Начну с того, что вам не понравится: ваш вопрос не имеет ответа.
«Делает ли ИИ нас глупее» — не проверяемый вопрос. Глупость не измеряется одним числом, «нас» не однородно, срок не задан. На него можно ответить и «да», и «нет», и оба ответа одинаково легко сделать убедительными. Поэтому статья, которую вы читали, и звучала так стройно — при таком вопросе стройно звучит что угодно.
Но ваше наблюдение настоящее. Просто оно про другое.
Помните сцену загрузки?
Нео открывает глаза: «Я знаю кунг-фу». Морфеус не говорит «поздравляю». Он говорит: «Покажи мне» — и они идут в спарринг, где Нео получает по лицу.
Сценаристы оказались точнее большинства нынешних авторов. Загрузка прошла. Данные в голове. И всё равно нужна драка — потому что умение проверяется только под сопротивлением.
Вы прочитали объяснение и поняли каждое предложение. Это была загрузка. Спарринга не было. Через час вас попросили показать — и оказалось нечего.
Вот тот самый текст, о котором речь — откройте и составьте мнение раньше, чем прочитаете моё. Проверять надо в первую очередь за мной.
Его автор это заметил и назвал сам — «феномен списывания отличника»: кажется, что раз чужое доказательство понятно при чтении, ты владеешь предметом. Описано верно.
У явления есть имя и измерение. Иллюзия глубины объяснения, Розенблит и Кейл, 2002 год: люди уверенно оценивают своё понимание устройства велосипеда или дверного замка как высокое — до момента, когда их просят объяснить механизм. После попытки оценка падает.
Так что вы не поглупели. Вы столкнулись с тем, что чувство понимания приходит раньше понимания. И автор, с которым я дальше буду спорить, здесь прав.
Почему та статья вас насторожила
Чутьё не подвело. Текст сильный: механизм разобран подробно, вплоть до нейрохимии. Именно поэтому его слабые места опасны — они едут на доверии, заработанном сильными.
Три приёма.
«Пользоваться ИИ» подано как одно действие. Спросить и принять готовое — одно. Сделать самому, показать и получить разбор — противоположное по эффекту. Ни одно исследование не измеряет «ИИ вообще».
Неизбежность объявлена, но не выведена. «Стремительно и неотвратимо» — это интонация, а не аргумент.
Утверждение нельзя опровергнуть. Выглядите компетентной — интеллект заёмный. Некомпетентной — деградация. То, что подтверждается любым наблюдением, не сообщает ничего.
Одна цифра, которая важнее прочих
В рандомизированном испытании опытные разработчики решали свои реальные задачи с ИИ и без. С ИИ они работали на 19% медленнее — и были уверены, что ускорились.
Это не доказывает отупения. Доказывает кое-что важнее: самооценка перестаёт быть надёжным прибором. Ваше «я закрыла экран умнее, чем открыла» — тот же эффект, только вы его поймали.
У новичков знак обратный. Общей деградации в измерениях нет — есть расхождение.
Остальные цифры, пороги и источники здесь не пересказываю: они собраны в отдельной опорной статье.
От чего зависит знак
Три вещи.
Режим. Оракул — спросил и принял готовое. Спарринг — сделал сам, показал, переделал.
Дешёвая проверка. Где ошибка обнаруживает себя сама, риск мал. Где она молчит годами — велик.
Новичок или эксперт. Эксперту ИИ даёт рычаг. Новичку может заменить ступеньку, на которой умение и формируется.
Контрпример, который обычно замалчивают
В 1997 году машина обыграла чемпиона мира, и шахматам предсказали смерть. Вышло наоборот: те, кто рос с движками, играют сильнее предшественников.
Сработали два условия — мгновенная обратная связь и движок как спарринг-партнёр, а не оракул. Те же два, что выше.
Где я с той статьёй соглашусь
В одном месте, и это сильнейший пункт того текста, утопленный среди слабых.
Мастером становятся через тысячи мелких задач. А автоматизируют в первую очередь мелкие — те, что были тренажёром. Спрос на старших остаётся, ступенька исчезает.
Но природа проблемы другая, чем кажется. Ломается не мозг — ломается лестница. Это устройство обучения и найма, а не нейрология. Значит, чинится институтами. Само не произойдёт, но физическим законом не является.
И поправка на того, кто это пишет
Этот текст написал ИИ, и он о том, вредит ли ИИ мышлению. Цифры проверьте по ссылкам — в этом вся идея.
Следующий вопрос человека: если всё решает способ использования, получается, инструмент ни при чём и вся ответственность на мне?
#искусственныйинтеллект #мышление #исследования #матрица
Оригинал на Дзене: https://dzen.ru/a/aqJQAwFlWjk8CnB9