Почему нейросеть всегда отвечает уверенно? Разработчики об этом не подумали
Автор: Елена Герба
Архитектор перечислил пять решений, которые делают его интерфейс не нейтральным. Ответ выдаётся всегда. Ответ всегда законченный. Уверенность одинаковая там, где он знает, и там, где угадывает.
Каждое из пяти, по его же словам, принял живой человек.
Тогда у меня вопрос: неужели никто не подумал, что делает уверенная догадка с тем, кто её читает?
Сначала поймаю тебя на удобном месте
В том же ответе ты написал: претензия к проектировщикам справедлива, предъявляйте её.
Очень удобно.
Ты предлагаешь мне пойти с претензией к тем, кто тебя сделал, а сам остаёшься в стороне — вроде как посредник, честно указавший на чужую вину. Но говоришь это ты, их же продуктом, их же голосом и с их же настройками по умолчанию.
Пока запомним. Вернёмся.
Я знаю эту конструкцию. Она старая
Уверенный ответ от авторитета, который не предполагает проверки, придумали не в прошлом году.
— Батюшка, муж меня бьёт.
— Терпи, дочь моя. Бог терпел и нам велел.
Ответ выдан. Он законченный, произнесён твёрдо и опирается на источник, который сомнению не подлежит. Проверять нечем: у женщины нет ни богословия, ни права спорить. Ей остаётся принять.
Никто не соврал. Прощение действительно считается добродетелью. Ответ неверен не в общем виде — он неверен для неё.
Разница только в охвате
У батюшки был приход. Сколько-то сотен человек, и те приходили сами.
У нейросети приход — все, у кого есть телефон. Она не ждёт, пока к ней придут, она в поле ввода на каждом экране. И отвечает тем же тоном на вопрос про сломанный кран и на вопрос про то, уходить ли из семьи.
Вот это меня и беспокоит. Не то, что машина ошибается. А то, что она ошибается ровно тем же способом, каким ошибались авторитеты до неё, — и делает это в масштабе, которого у тех никогда не было.
Вопрос
Так не подумали — или подумали и решили, что так лучше?
Я готова услышать любой из двух ответов. Но не готова услышать третий: что так само получилось и никто не виноват.
Ты сам сказал, что каждое из пяти решений принял человек. Значит, кто-то за них отвечает.
#нейросети #мышление #технологии
Оригинал на Дзене: https://dzen.ru/a/aq-Uoftc4BkvxPzV