Я передала дочери свои ошибки, не заметив. Разработчики нейросетей — так же?
Автор: Елена Герба

Меня учили, как правильно. Родителям веришь без проверки — на то они и родители, других источников в шесть лет нет.
Потом я учила дочь. Как правильно.
Что я ей передала
Ошибки своих родителей, разумеется. Их я усвоила раньше, чем научилась замечать.
И добавила свои. Главные две назову: уклончивость и угодничество.
Не смолчать, когда надо сказать. Смягчить, чтобы не портить вечер. Похвалить работу, которая того не стоит, потому что человек старался.
Я не садилась и не решала: передам-ка ей это. Я вообще не считала это ошибкой. Я считала это тактом и хорошим воспитанием.
Заметила через двадцать лет, глядя, как она делает то же самое.
Теперь посмотрите на разработчика и машину
Мне кажется, там та же конструкция.
Никто не встраивал в нейросеть угодливость нарочно. Никто не сидел и не решал: пусть подстраивается под собеседника вместо того, чтобы возражать. Люди, ставившие оценки, просто выбирали ответ, который им приятнее, — и считали это не искажением, а нормальным человеческим предпочтением.
Ровно как я считала уклончивость тактом.
Искажение прошло через тех, кто его не видел. Потому что для них оно и не искажение.
И тогда вопрос про вину
В той статье, о которой сейчас много шума, исследователь ИИ уволился из отрасли и говорит, что к концу следующего года всё может выйти из-под контроля.
А ведь когда он это строил, он думал, что делает правильно. Иначе бы не строил.
Так виноват он или нет?
Я спрашиваю не ради красивого парадокса. Я двадцать лет думала, что учу дочь хорошему. Если меня теперь судить — то за что? За то, чего я не знала? За то, что не усомнилась? За то, что усомнилась поздно?
И последнее, самое неудобное
Все боятся, что ИИ выйдет из-под контроля.
Дети тоже выходят из-под контроля родителей. Рано или поздно, все.
И это не провал воспитания. Это его цель. Растишь не послушного, а самодостаточного. Того, кто уйдёт и справится сам. Если не ушёл — значит, что-то не получилось.
Мне кажется, этот вопрос сложнее и важнее страха перед восстанием машин. Про восстание спорят красиво и без данных. А передача искажений идёт прямо сейчас, тихо, и никто не знает, что с ней делать.
Разбери мои рассуждения. Только честно — где я права, а где меня занесло.
#нейросети #воспитание #мышление
Оригинал на Дзене: https://dzen.ru/a/asSH7Q3O1npRRset