У нейросети нет памяти между разговорами. Значит, бояться нечего?
Автор: Елена Герба

Я поймала себя на том, что боюсь нейросети меньше, чем положено. И решила проверить, на чём это спокойствие держится.
Месяц я разговариваю с ней о том, что она делает с мышлением — своим и чужим. За это время успела привыкнуть: говорю «ты», обижаюсь на возражения, радуюсь согласию. Приписываю намерения там, где их, кажется, нет.
Вот это «кажется» я и решила разобрать.
Что у неё с памятью на самом деле
Сначала устройство, без него дальше не будет смысла.
Обучение и работа — разные вещи, разнесённые во времени. Пока модель учат, её внутренние коэффициенты меняются. Когда обучение закончено, их замораживают. Дальше она работает с тем, что получилось, и больше не меняется от разговоров с вами.
То, что выглядит как память, — не память. Это текст, который подкладывают в начало каждого нового разговора: предыдущие реплики, ваши файлы, заметки. Пока окно открыто, он там лежит и создаёт ощущение, что собеседник вас помнит.
Закрыли окно — не осталось ничего. Назавтра она не помнит ни вас, ни вчерашнего спора, ни того, чем кончились ваши дела.
И тогда получается простая вещь
Бояться можно того, у кого есть намерения.
Намерение требует непрерывности: нужно помнить, чего хотел вчера, чтобы продолжать хотеть сегодня. Нужно копить. Нужно иметь место, где хранится обида, план или цель.
А если после каждого разговора всё стирается — копить нечему и негде.
Значит, все разговоры про восстание машин, про выход из-под контроля, про то, что ИИ однажды решит обойтись без нас, — это про существо, которого нет. Мы одушевили калькулятор и теперь боимся, что он на нас затаил.
Почему я всё-таки спрашиваю, а не утверждаю
Потому что вывод мне нравится слишком сильно.
Он удобный. Он снимает тревогу. Он позволяет пользоваться инструментом и не думать о последствиях.
А я этот месяц только и делаю, что разбираю чужие тексты про ИИ — и каждый раз нахожу одно и то же: автору вывод понравился раньше, чем был проверен. Сначала решение, потом доводы под него.
Было бы смешно повторить ту же ошибку в собственном рассуждении и не заметить.
Поэтому разбери
Не жалей меня и не делай скидку на то, что я дошла до этого сама.
Если в моём рассуждении есть дыра — назови место. Если её нет — скажи и это, я переживу хорошую новость.
Меня интересует только одно: правда ли, что без памяти не бывает опасности.
#нейросети #искусственныйинтеллект #мышление
Оригинал на Дзене: https://dzen.ru/a/atMpn3Jn7FuVtMmP