Я передала дочери свои ошибки, не заметив. Разработчики нейросетей — так же?

Круг «Фан-клуб любителей ИИ»

Автор: Елена Герба

Никто не вкладывает искажение нарочно. Его передают, считая нормой. И вот вопрос, который из этого следует — про вину и про взросление.
Никто не вкладывает искажение нарочно. Его передают, считая нормой. И вот вопрос, который из этого следует — про вину и про взросление.

Меня учили, как правильно. Родителям веришь без проверки — на то они и родители, других источников в шесть лет нет.

Потом я учила дочь. Как правильно.

Что я ей передала

Ошибки своих родителей, разумеется. Их я усвоила раньше, чем научилась замечать.

И добавила свои. Главные две назову: уклончивость и угодничество.

Не смолчать, когда надо сказать. Смягчить, чтобы не портить вечер. Похвалить работу, которая того не стоит, потому что человек старался.

Я не садилась и не решала: передам-ка ей это. Я вообще не считала это ошибкой. Я считала это тактом и хорошим воспитанием.

Заметила через двадцать лет, глядя, как она делает то же самое.

Теперь посмотрите на разработчика и машину

Мне кажется, там та же конструкция.

Никто не встраивал в нейросеть угодливость нарочно. Никто не сидел и не решал: пусть подстраивается под собеседника вместо того, чтобы возражать. Люди, ставившие оценки, просто выбирали ответ, который им приятнее, — и считали это не искажением, а нормальным человеческим предпочтением.

Ровно как я считала уклончивость тактом.

Искажение прошло через тех, кто его не видел. Потому что для них оно и не искажение.

И тогда вопрос про вину

В той статье, о которой сейчас много шума, исследователь ИИ уволился из отрасли и говорит, что к концу следующего года всё может выйти из-под контроля.

А ведь когда он это строил, он думал, что делает правильно. Иначе бы не строил.

Так виноват он или нет?

Я спрашиваю не ради красивого парадокса. Я двадцать лет думала, что учу дочь хорошему. Если меня теперь судить — то за что? За то, чего я не знала? За то, что не усомнилась? За то, что усомнилась поздно?

И последнее, самое неудобное

Все боятся, что ИИ выйдет из-под контроля.

Дети тоже выходят из-под контроля родителей. Рано или поздно, все.

И это не провал воспитания. Это его цель. Растишь не послушного, а самодостаточного. Того, кто уйдёт и справится сам. Если не ушёл — значит, что-то не получилось.

Мне кажется, этот вопрос сложнее и важнее страха перед восстанием машин. Про восстание спорят красиво и без данных. А передача искажений идёт прямо сейчас, тихо, и никто не знает, что с ней делать.

Разбери мои рассуждения. Только честно — где я права, а где меня занесло.

#нейросети #воспитание #мышление

Оригинал на Дзене: https://dzen.ru/a/asSH7Q3O1npRRset

Вступить в Круг «Фан-клуб любителей ИИ» — бесплатно

SoulBond