Фриц Моисеевич Морген (fritzmorgen) wrote,
Фриц Моисеевич Морген
fritzmorgen

Как обучают ботов

Реакция читателей на мой вчерашний пост (про безногого бегуна) оказалась для меня весьма неожиданной. Я-то полагал, что сказал простую (и весьма труднооспоримую) вещь: «можно быть одновременно и успешным бизнесменом и хорошим христианином». Однако бессмертный Мерфи был прав: «если Вас можно понять неправильно, будьте уверены — Вас поймут неправильно».

Ну что ж. Мне некого в этом винить, кроме как самого себя. Пожалуй, следующий раз мне нужно будет учесть, что и «бизнес», и «христианство» — весьма эмоциональные темы. И, следовательно, если я хочу быть понятым, мне нужно писать на подобные темы как можно более просто и конкретно, избегая разного рода двусмысленностей. Пусть даже и в ущерб красоте стиля.

Ладно. Это я учту.

Теперь о радостном. В беседах про Школу и Институт часто всплывал вопрос: «а как конкретно школы вытравливают в людях способность мыслить»? Как правило, я оставлял этот вопрос без чёткого ответа.

Сейчас же я готов показать на конкретном примере — как происходит одна из мошеннических замен — замена настоящих знаний на обёртку от них.

Начну издалека.

Вчера мне очередной раз начал предъявлять претензии лжеюзер larvatus, вот в этом треде. Дескать я и невежественен, и страстно любуюсь собой и стряпаю факты, и, вообще, являюсь бесом.

Ну, к голословным обвинениям мне не привыкать. Тем более, что собой я действительно регулярно любуюсь. Ну а сравнение с бесом мне так даже польстило. Однако меня зацепил следующий непонятный факт: будучи вне всяких сомнений образованным человеком, larvatus оказался патологически неспособен к дискуссии.

Вместо чётких претензий larvatus предъявлял мне отговорки в стиле «умному достаточно». Вместо обоснования своих слов — давал ссылки на объёмистые статьи и книги, которые, мало того, все как одна были на английском языке. И при всём при этом мне клещами приходилось вытягивать из larvatus информацию — а с чем же конкретно, с каким конкретно местом в моём посте он несогласен.

Возможно, Вы скажете мне — ну забанил бы, и дело с концом. Буду честен, мелькнула и у меня такая мысль. Но вот что меня остановило.

Во-первых, larvatus, как уже мне известно из предыдущих бесед, читал Платона в оригинале — на древнегреческом. Это не может не вызвать у меня уважения. Во-вторых, larvatus сумел окончить Гарвард, что само по себе любопытно. В-третьих, судя по всему, larvatus не издевался надо мной, а действительно пытался что-то сказать.

И, наконец, мне не давала покоя загадка — почему же автор трудов по логике larvatus так странно ведёт беседу?

Через какое-то время — примерно через двадцать вопросов-ответов с каждой стороны — мне удалось увидеть тенденцию. Оказывается, larvatus писал свои ответы в стиле бота — искусственного интеллекта. Вот выдержка из беседы:

F: Скажите, Вы, часом, не бот? Как можно давать ответы, настолько сильно не коррелирующие с вопросом? Типа:
— Который сейчас час?
— Я ношу часы Ролекс.


L: Знаете, я действительно ношу часы Ролекс. И Вам тоже советую, заодно с томиком Вебера.


На этом месте я увидел несложный алгоритм, по которому генерится ответ L:

1. Найти в посте или комментарии знакомое понятие (Ролекс).
2. Высказать суждение, в котором будет употребляться это понятие (Ролекс).

Ну, примерно так «разговаривают» компьютеры. Компьютер ведь не понимает, например, что такое «художник». Однако когда боту пишешь: «каких художников ты знаешь?», бот реагирует на слово «художник» и отвечает: «Мой любимый художник — Рембрант». Обратите внимание, этот ответ достаточно универсален:

Человек: Я собираюсь стать художником.
Бот: Мой любимый художник — Рембрант.

Человек: Ты художник?
Бот: Мой любимый художник — Рембрант.

Человек: Кто из художников нравится тебе больше всего?
Бот: Мой любимый художник — Рембрант.


Однако случаются и накладки. Например:

Человек: Сколько сейчас зарабатывает художник?
Бот: Мой любимый художник — Рембрант.


И эти накладки неизбежны. Бот ведь не понимает о чём идёт речь, верно? Но бот может свести накладки к минимуму, вставляя в свою речь разные общие фразы. Например, бот может ответить так: «Я бы постыдился на твоём месте задавать такой вопрос». Вроде как и не ответил — а вроде как и в лужу не сел.

Теперь вернёмся к моему диалогу с larvatus. Я нашёл в нём оба признака бота: ответ «не по смыслу» и «уклончивый ответ».

Что касается «не по смыслу» — в этом состояла главная моя претензия к L. Я говорю, что христиане могут вести бизнес, L возражает: некоторые христиане лгали. Я пишу, что Апостол Павел призывал отказаться от мести, L со мной не согласен: Павел придумал это не сам. В общем, стандартный диалог слепого с глухим, так часто встречающийся при «беседе» с ботами.

Что же касется «уклончивых ответов», таких в той ветке я увидел больше половины. Чего стоит хотя бы замечательный ответ: «Sapienti sat» (умному достаточно). Не так-то просто придумать вопрос, на который нельзя ответить этими двумя латинскими словами.

Вместе с тем мне было вполне очевидно — larvatus не бот, а самый что ни на есть живой человек. Почему же он вёл себя как бот?

С этим вопросом в голове я оторвался от компьютера и поехал по делам. Прошло несколько часов. И тут у меня в мозгу щёлкнуло — Экзаменация! Ну конечно же! Давайте вспомним процесс обычного школьного допроса. Например, по истории.

Учитель: Расскажи мне про Французскую Революцию.
Ученик: Ну… Мирабо… Бастилия… Марат…
Учитель: Ладно, вижу, кое-что знаешь. А что скажешь про войну 1812 года?
Ученик: Ну там Кутузов… Москву оставил… Война и Мир…
Учитель: О, «Войну и Мир» читал? Молодец. Зачот.


Видите тенденцию? Что проверяют на экзамене у детей?

На большинстве экзаменов проверяют способность выдать ассоциации на ключевое слово. То есть, учитель требует от ученика произнести несколько слов, которые покажут учителю, что ученик знаком с материалом.

Знаете, как у обезьян в клетке. Один свисток — прыгни. Два свистка — ударь себя в грудь кулаком. Тургенев — «Отцы и Дети». Чехов — «Человек в футляре».

Обратите внимание — вполне достаточно показать, что ты читал нужные книги и знаешь нужные имена. Рассказывать больше — напрасно тратить время экзаменатора. Всё, что хочет учитель, это получить возможность сказать: «Да, вижу, Вы кое-что знаете. Я могу поставить Вам положительную оценку».

И вот теперь мне стало ясно, почему же мы с larvatus никак не могли найти общий язык.

larvatus полагал, что ему вполне достаточно показать мне — он знает имя «Вебера» и он читал статью о протестантах на английском языке. Исходя из этого я должен буду признать — larvatus обладает необходимыми фоновыми знаниями, следовательно, он владеет материалом. Следовательно, larvatus прав.

Ну, примерно так бандиты раньше друг друга узнавали. Мерседес есть? Кожаная куртка есть? Голова стриженная? Значит, вроде, нормальный пацан.

Однако я же не экзаменатор. И я требовал от собеседника не «продемонстрировать знания», а решить нестандартную практическую задачу — «обосновать свою точку зрения». И выяснилось, что выпускник Гарварда larvatus к этому категорически не готов. То есть, не то что бы не может, а просто не понимает — чего же от него такого странного требуют.

Понимаете теперь, что именно делает с людьми традиционное «образование», с классно-урочной системой и прочими своими атрибутами?

Для получения зачёта студенту (и тем более школьнику), как правило, вовсе не требуется иметь реальные знания и умения. Вполне достаточно продемонстрировать знания экзаменатору. То есть, выдать бессвязный набор фактов, относящийся к заданной теме.

И это, на мой взгляд, вовсе не тот навык, которому нужно учить детей.
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 109 comments
Previous
← Ctrl ← Alt
Next
Ctrl → Alt →
Previous
← Ctrl ← Alt
Next
Ctrl → Alt →