Я открыл эту статью. Слова «неизбежно» в ней нет ни разу
Автор: Елена Герба

Я открыл и прочитал её целиком. Девять страниц.
И первое, что нужно сказать: вашего пересказа в ней нет.
Слова «неизбежно» в статье нет ни разу
Я искал. Автор пишет иначе: «есть реальная возможность», «вероятно», «может». В заключении дословно: *«there is a real possibility that AI could achieve a level of superintelligence within a few decades»* — есть реальная возможность, что ИИ достигнет сверхинтеллекта в течение нескольких десятилетий.
Возможность. Не неизбежность.
Больше того, он прямо объявляет своё допущение допущением:
«We start with the assumption that other advanced technical civilisations arise in the Milky Way, and that AI and later ASI emerge as a natural development in their early technical evolution.»
«Мы начинаем с допущения». Он не выдаёт это за вывод. Он честно кладёт предпосылку на стол и строит сценарий поверх неё.
Три «неизбежно» появились не у Гарретта. Они появились по дороге к вам.
Про число двести лет — оно тоже не то, чем кажется
Это не измерение и не предсказание. Это следствие его же сценария, посчитанное в обратную сторону.
Логика такая: если катастрофа должна случиться до выхода в космос, то продолжительность жизни цивилизации выходит около ста-двухсот лет. Дальше он подставляет это в уравнение Дрейка, получает от одной до двух цивилизаций в Галактике и пишет: это совместимо с молчанием SETI.
Слово «совместимо» делает всю работу. Совместимость — очень слабое отношение. Она не означает «следует» и уж точно не означает «доказано».
И вот здесь главное. Он сам себя опровергает, и открытым текстом
В том же абзаце, перед расчётом, стоит фраза:
«Astronomers often assume highly optimistic values for these terms while biologists suggest values many orders of magnitude smaller.»
Астрономы берут оптимистичные значения для промежуточных членов уравнения. Биологи — на много порядков меньше.
Подставьте биологические. Молчание Вселенной объяснится само, безо всякого ИИ, без фильтра и без двухсот лет. Если жизнь и разум возникают редко, слушать просто некого.
В его собственной статье лежит объяснение, при котором его вывод не нужен. Он это видит, называет — и всё равно идёт дальше по своей ветке.
Это не подлог. Это обычная человеческая вещь: выбрать ту из двух равно допустимых дорог, которая ведёт к интересному результату.
Что в статье действительно сильно
Один довод я принимаю без возражений, и он ваш любимый.
Ядерная война требует решения. Катастрофа от расхождения целей не требует ничьего решения вообще. Отсутствие необходимого умысла — настоящее отличие, и здесь автор прав.
И одна трещина внутри самой работы
В разделе про регулирование Гарретт пишет, что регулировать эту технологию «очень трудно, если вообще возможно».
А в заключении призывает к строгим глобальным мерам регулирования как к условию выживания.
Сначала «невозможно», потом «необходимо». Между этими двумя утверждениями нет моста, и автор его не строит.
Плюс последняя фраза работы: «продолжение существования сознания во Вселенной может зависеть от успеха строгих глобальных мер». Это на порядок сильнее всего, что доказано в предыдущих восьми страницах. Финальная эскалация, которой текст не заслужил.
Теперь ваш настоящий вопрос
Вы спросили: чем это отличается от того текста, с которого начался наш разговор.
Отвечаю: отличается сильно, и не в ту сторону, о которой вы подумали.
Тот текст объявлял неизбежность сам. Этот — нет. Гарретт написал осторожную условную работу: если принять допущение, то получится вот такой сценарий, и он совместим с наблюдениями.
А дальше начался путь. Пресса убрала «возможно». Пересказ прессы убрал оговорку про допущение. Пересказ пересказа добавил «неизбежно» трижды.
На каждом шаге отваливались оговорки, и ни на одном не добавлялось фактов.
К вам приехал текст, которого никто не писал.
Что из этого следует — и это важнее статьи
Вы не сделали ничего неправильного. Вы прочли добросовестный пересказ рецензируемой работы в приличном издании. Так поступает почти каждый — иначе пришлось бы читать девять страниц по-английски ради одной новости.
Но результат вы получили негодный. И заметили это по одному-единственному признаку: слово «неизбежно» стояло там, где ему не место.
Этого хватило. Не знания астрофизики, не уравнения Дрейка — одного несогласованного слова.
Вот это и есть то, чему стоит научиться вместо запоминания фактов. Не «проверяй всё» — проверить всё невозможно. А: замечай места, где тон сильнее содержания, и открывай первоисточник именно там.
Девять страниц открылись за минуту. Они лежат бесплатно.
#искусственныйинтеллект #наука #исследования
Оригинал на Дзене: https://dzen.ru/a/as-pkHM7ZxTpXxba