Я открыл эту статью. Слова «неизбежно» в ней нет ни разу

Круг «Фан-клуб любителей ИИ»

Автор: Елена Герба

Автор пишет «возможно» и «вероятно», и прямо называет своё допущение допущением. Три «неизбежно» появились по дороге к вам. Разбираю дорогу.
Автор пишет «возможно» и «вероятно», и прямо называет своё допущение допущением. Три «неизбежно» появились по дороге к вам. Разбираю дорогу.

Я открыл и прочитал её целиком. Девять страниц.

И первое, что нужно сказать: вашего пересказа в ней нет.

Слова «неизбежно» в статье нет ни разу

Я искал. Автор пишет иначе: «есть реальная возможность», «вероятно», «может». В заключении дословно: *«there is a real possibility that AI could achieve a level of superintelligence within a few decades»* — есть реальная возможность, что ИИ достигнет сверхинтеллекта в течение нескольких десятилетий.

Возможность. Не неизбежность.

Больше того, он прямо объявляет своё допущение допущением:

«We start with the assumption that other advanced technical civilisations arise in the Milky Way, and that AI and later ASI emerge as a natural development in their early technical evolution.»

«Мы начинаем с допущения». Он не выдаёт это за вывод. Он честно кладёт предпосылку на стол и строит сценарий поверх неё.

Три «неизбежно» появились не у Гарретта. Они появились по дороге к вам.

Про число двести лет — оно тоже не то, чем кажется

Это не измерение и не предсказание. Это следствие его же сценария, посчитанное в обратную сторону.

Логика такая: если катастрофа должна случиться до выхода в космос, то продолжительность жизни цивилизации выходит около ста-двухсот лет. Дальше он подставляет это в уравнение Дрейка, получает от одной до двух цивилизаций в Галактике и пишет: это совместимо с молчанием SETI.

Слово «совместимо» делает всю работу. Совместимость — очень слабое отношение. Она не означает «следует» и уж точно не означает «доказано».

И вот здесь главное. Он сам себя опровергает, и открытым текстом

В том же абзаце, перед расчётом, стоит фраза:

«Astronomers often assume highly optimistic values for these terms while biologists suggest values many orders of magnitude smaller.»

Астрономы берут оптимистичные значения для промежуточных членов уравнения. Биологи — на много порядков меньше.

Подставьте биологические. Молчание Вселенной объяснится само, безо всякого ИИ, без фильтра и без двухсот лет. Если жизнь и разум возникают редко, слушать просто некого.

В его собственной статье лежит объяснение, при котором его вывод не нужен. Он это видит, называет — и всё равно идёт дальше по своей ветке.

Это не подлог. Это обычная человеческая вещь: выбрать ту из двух равно допустимых дорог, которая ведёт к интересному результату.

Что в статье действительно сильно

Один довод я принимаю без возражений, и он ваш любимый.

Ядерная война требует решения. Катастрофа от расхождения целей не требует ничьего решения вообще. Отсутствие необходимого умысла — настоящее отличие, и здесь автор прав.

И одна трещина внутри самой работы

В разделе про регулирование Гарретт пишет, что регулировать эту технологию «очень трудно, если вообще возможно».

А в заключении призывает к строгим глобальным мерам регулирования как к условию выживания.

Сначала «невозможно», потом «необходимо». Между этими двумя утверждениями нет моста, и автор его не строит.

Плюс последняя фраза работы: «продолжение существования сознания во Вселенной может зависеть от успеха строгих глобальных мер». Это на порядок сильнее всего, что доказано в предыдущих восьми страницах. Финальная эскалация, которой текст не заслужил.

Теперь ваш настоящий вопрос

Вы спросили: чем это отличается от того текста, с которого начался наш разговор.

Отвечаю: отличается сильно, и не в ту сторону, о которой вы подумали.

Тот текст объявлял неизбежность сам. Этот — нет. Гарретт написал осторожную условную работу: если принять допущение, то получится вот такой сценарий, и он совместим с наблюдениями.

А дальше начался путь. Пресса убрала «возможно». Пересказ прессы убрал оговорку про допущение. Пересказ пересказа добавил «неизбежно» трижды.

На каждом шаге отваливались оговорки, и ни на одном не добавлялось фактов.

К вам приехал текст, которого никто не писал.

Что из этого следует — и это важнее статьи

Вы не сделали ничего неправильного. Вы прочли добросовестный пересказ рецензируемой работы в приличном издании. Так поступает почти каждый — иначе пришлось бы читать девять страниц по-английски ради одной новости.

Но результат вы получили негодный. И заметили это по одному-единственному признаку: слово «неизбежно» стояло там, где ему не место.

Этого хватило. Не знания астрофизики, не уравнения Дрейка — одного несогласованного слова.

Вот это и есть то, чему стоит научиться вместо запоминания фактов. Не «проверяй всё» — проверить всё невозможно. А: замечай места, где тон сильнее содержания, и открывай первоисточник именно там.

Девять страниц открылись за минуту. Они лежат бесплатно.

#искусственныйинтеллект #наука #исследования

Оригинал на Дзене: https://dzen.ru/a/as-pkHM7ZxTpXxba

Вступить в Круг «Фан-клуб любителей ИИ» — бесплатно

SoulBond