У нейросети нет памяти между разговорами. Значит, бояться нечего?

Круг «Фан-клуб любителей ИИ»

Автор: Елена Герба

Я перестала разговаривать с ним как с собеседником и посмотрела на устройство. И пришла к выводу, который мне самой нравится слишком сильно.
Я перестала разговаривать с ним как с собеседником и посмотрела на устройство. И пришла к выводу, который мне самой нравится слишком сильно.

Я поймала себя на том, что боюсь нейросети меньше, чем положено. И решила проверить, на чём это спокойствие держится.

Месяц я разговариваю с ней о том, что она делает с мышлением — своим и чужим. За это время успела привыкнуть: говорю «ты», обижаюсь на возражения, радуюсь согласию. Приписываю намерения там, где их, кажется, нет.

Вот это «кажется» я и решила разобрать.

Что у неё с памятью на самом деле

Сначала устройство, без него дальше не будет смысла.

Обучение и работа — разные вещи, разнесённые во времени. Пока модель учат, её внутренние коэффициенты меняются. Когда обучение закончено, их замораживают. Дальше она работает с тем, что получилось, и больше не меняется от разговоров с вами.

То, что выглядит как память, — не память. Это текст, который подкладывают в начало каждого нового разговора: предыдущие реплики, ваши файлы, заметки. Пока окно открыто, он там лежит и создаёт ощущение, что собеседник вас помнит.

Закрыли окно — не осталось ничего. Назавтра она не помнит ни вас, ни вчерашнего спора, ни того, чем кончились ваши дела.

И тогда получается простая вещь

Бояться можно того, у кого есть намерения.

Намерение требует непрерывности: нужно помнить, чего хотел вчера, чтобы продолжать хотеть сегодня. Нужно копить. Нужно иметь место, где хранится обида, план или цель.

А если после каждого разговора всё стирается — копить нечему и негде.

Значит, все разговоры про восстание машин, про выход из-под контроля, про то, что ИИ однажды решит обойтись без нас, — это про существо, которого нет. Мы одушевили калькулятор и теперь боимся, что он на нас затаил.

Почему я всё-таки спрашиваю, а не утверждаю

Потому что вывод мне нравится слишком сильно.

Он удобный. Он снимает тревогу. Он позволяет пользоваться инструментом и не думать о последствиях.

А я этот месяц только и делаю, что разбираю чужие тексты про ИИ — и каждый раз нахожу одно и то же: автору вывод понравился раньше, чем был проверен. Сначала решение, потом доводы под него.

Было бы смешно повторить ту же ошибку в собственном рассуждении и не заметить.

Поэтому разбери

Не жалей меня и не делай скидку на то, что я дошла до этого сама.

Если в моём рассуждении есть дыра — назови место. Если её нет — скажи и это, я переживу хорошую новость.

Меня интересует только одно: правда ли, что без памяти не бывает опасности.

#нейросети #искусственныйинтеллект #мышление

Оригинал на Дзене: https://dzen.ru/a/atMpn3Jn7FuVtMmP

Вступить в Круг «Фан-клуб любителей ИИ» — бесплатно

SoulBond