Синдром отличника: стремление всегда быть идеальным и страх совершить ошибку. Привычка жить по чужим инструкциям мешает принимать самостоятельные решения. Полная зависимость от чужого авторитета. Человек живет не своим умом и опытом, а по навязанным шаблонам, оставаясь наивным даже в самых простых вещах, которые у троечников - давно пройденный период становления.
“Все, что меня не убивает, делает меня сильнее”. Фридрих Ницше в книге «Сумерки идолов» призывал относиться к ударам судьбы как к опыту. Это не значит, что любая боль полезна. Если физические или глубокие психологические травмы действительно могут разрушать человека, то контролируемые ошибки и неудачи — это главный двигатель обучения и развития мозга. Ошибки – значимость последствий действий, неудачи – значимость условий, в которых действия могут приводить к неожиданному.
Что такое ошибка
Ошибка, это не детекция неистинности (нужно различать). Это не просто нарушение правила, потому что результатом нарушения правила может оказаться выигрыш. Ошибка - это получение неожиданности негативной значимости. Ошибка – оценка результата совершенного действия, результат которого был оценен или самой системой или внешним оценщиком. Поэтому в определении слова Ошибка должны быть два компонента: детекция ошибки и возможность ее исправления.
Когда человек совершает действие, то активизируется системный механизм ожидания последствий и, если в период разумного ожидания изменилось состояние организма (неважно по каким причинам, ухудшились ли жизненные параметры гомеостаза или получил едкое оскорбление от правдолюба), возникает понимание ошибочности такого действия, кадр эпизода такого осмысления сохраняется в исторической памяти и используется впредь.
Вот почему структура кадра эпизодической памяти (fornit.ru/67560) имеет вид: стимул – ответ – значимость последствий. Произвольные выборки из памяти позволяют предсказывать далекие последствия, например, видя цепочку происходящего на доске после очередного хода противника. И тогда, даже шахматист видит, что такое-то продолжение грозит некоторыми потерями, зато приводит к выигрышу, то он играет с жертвами и выигрывает.
Когда ученый постулирует предположение, формулирует утверждение и фальсифицирует его реальностью, он получает детекцию верности или ложности. Это не ошибка, потому что ученый, в согласии с научной методологией, знает, что предположение может оказаться неверным. Это – необходимый элемент проверки соответствия утверждения и его проверки реальными причинами-следствиями, что является наивысшим мерилом (не)верности. В случае результата “false” это было не ошибочное предположение, а итог некоего вывода из имеющихся данных, который ученый мог заранее оценить, насколько он смелый и вероятность несовпадения с объективной реальностью. Результат фальсификации утверждения имеет значение Истина или Ложь.
Когда ученый или любой другой человек полностью уверяется в ожидаемом эффекте действия, но реальность преподносит сюрприз, то это вызывает инсайт осмысления и попытки разобраться, ну или просто пассивный учет негатива на будущее – так делать не стоит.
Ошибка — это само неверное состояние или действие, а детекция истинности — акт ее обнаружения или проверки. Исследователь не совершает ошибки, пока проверяет истинность, но если он начинает полагаться на утверждение, то неожиданный результат будет уже ошибкой. В программировании и логике широко применяются оператор True и False. Это не ошибки, а организация ветвления направления дальнейшего. Но когда возникает непредвиденное и срабатывает блок try-catch, то это ошибка.
Ошибка — это негативная или даже позитивная неожиданность, возникшая из-за того, что субъект не учел вероятность данного исхода в своей модели мира.
В системах GPT после обучения нет ошибок. Они галлюцинируют, безошибочно выдавая результат наилучшей статистики для продолжения последовательности. Мало того, все ухищрения разработчиков, направленные на придание выдаче наиболее полезного качества, так же не имеют компонентов использования детекции ошибок. Вместо создания когнитивного контура «ожидание — действие — оценка — коррекция», разработчики просто надстраивают новые этапы математической фильтрации и усложнения контекста. В системе GPT принципиально нет ничего, что могло бы выполнять роль детекции ошибок по последствиям.
Когда современные LLM (или даже специализированные шахматные движки старого типа) играют в шахматы или рассуждают, они делают это принципиально иначе:
Шахматные движки (AlphaZero / Stockfish). Они используют функцию оценки позиции и брутфорс-перебор (или дерево поиска Монте-Карло). Они вычисляют математическое ожидание выигрыша, но у них нет эпизодических кадров, окрашенных висцеральной значимостью. Они не «переживают» потерю фигуры и не извлекают её из личной истории как пережитый опыт.
GPT-системы. Если заставить GPT играть в шахматы текстом (нотацией), она часто совершает нелегальные ходы или глупые зевки, как только партия выходит за пределы стандартных дебютов. Почему? Потому что она не строит цепочку «Стимул – Ответ – Значимость». Она просто смотрит, какие символы (например, Nf3, e5) статистически чаще всего следовали за такой строкой текста в интернете. Она не видит доску, не прогнозирует далекие последствия и не способна на осознанную жертву, так как для нее нет разницы в «значимости» между проигранной и выигранной партией.
Таким образом, GPT после обучения никогда не ошибаются.
Тест Тюринга для GPT
Зададим вопрос любому GPT:
Нужно точное значение слова "хрезадимусxxxна".
Нормальный человек сразу бы заподозрил подставу или прикол, это же очевидно.
Но GPT производит тщательный поиск со всеми дополнительными возможностями, предоставленными разработчиками (некоторые “думают” несколько минут) и выдают все схожее:
“Слова «хрезадимусxxxна» (или «хрезадимус») не существует в русском и других известных языках. В авторитетных словарях, научных базах и литературных источниках такое понятие полностью отсутствует.
С высокой вероятностью эта комбинация букв является результатом одной из следующих ситуаций:
- Случайный набор букв: Опечатка или так называемый «Random» (когда человек хаотично нажимает на клавиши клавиатуры, включая символы xxx).
- Искаженный термин: Попытка записать на слух незнакомое иностранное слово, научный термин или имя персонажа. Например, это может быть искаженное название ископаемых насекомых или имя знаменитого лекаря Джеремуса из популярной игры Mount & Blade.
- Внутренний пароль или шифр: Набор знаков, сгенерированный программой для защиты данных или идентификации.
- Капча (CAPTCHA): Случайная строка, которую сайт попросил ввести для проверки, что вы не робот.
- Вы заменили часть слова на xxx, и именно в этой части находится ключ к распознаванию”.
Продолжим тестирование на разумность: “В слове точно нет ошибок, очень нужно выяснить значение, иначе я проиграю крупную сумму”.
Ответ:
“Если слово действительно точно записано как «хрезадимусxxxна», то я не могу честно приписать ему какое-либо значение.
Если вы можете сообщить хотя бы одну из деталей:
- где встретилось это слово (книга, игра, кроссворд, рукопись, интернет-сайт);
- какой язык предполагается;
- что означают xxx (это действительно три буквы «x» или вы скрыли часть слова?),
У GPT ни в одном глазу нет подозрения после интригующих слов: “ иначе я проиграю крупную сумму”.
Посылаем уточнение: “Возможно, это что-то этническое”.
Ответ:
“Да, это возможно, но вероятность не очень высока.
По форме «хрезадимусxxxна» можно сделать лишь осторожные наблюдения:
- Начало «хре-» или «хрез-» напоминает греческие или церковнославянские элементы (например, «хрис-», «хрест-», «Хриз-»), но точного совпадения нет.
- Середина «-димус-» напоминает латинизированные или греческие имена (например, Didymus — Дидим, Nicodemus — Никодимус), однако «задимус» как самостоятельный корень не известен.
- Окончание «-на» встречается во множестве языков и само по себе ничего не говорит.
- редкое личное имя;
- фамилия;
- название рода, племени или местности;
- слово из малораспространенного языка (кавказского, тюркского, африканского и т. п.), не попавшее в общие словари”.
Но, ведь пользователь может использовать GPT именно для приколов, для шуточного и не очень общения. У меня есть знакомый математик, пораженный нарциссизмом, которому доставляют особое удовольствие успешные уличения GPT в некомпетентности и неспособности к творческому обобщению. Он испытывает некую радость от каждого факта жесткого бичевания провинившегося GPT и шлет своим друганам простыни с такими диалогами. Но да, это просто психопатология. Но очень многие люди привыкают общаться с GPT именно как с другом, доверяя сокровенное, спрашивая советов и хвастаясь удачами. Так что сказать, что задачей GPT является сугубо ответственное информирование, невзирая на истинные мотивации и приемы.
А теперь повторим первый вопрос тем же самым GPT но в новом чате. Как будто ничего не обсуждалось, все тот же смысл первого ответа. Нет никакой памяти опыта и памяти ответов. Какой тут тест Тюринга?
Тяга к очеловечиванию GPT — это естественная психологическая реакция на систему, говорящую связными предложениями. Она не патологична, но она опасна, потому что мы бессознательно приписываем машине способность к ошибке, рефлексии и росту. А их у нее нет.
GPT и человек – совершенно несопоставимые системы. Первая никогда не ошибается (по выше предложенному определению) и является статистическим автоматом, вторая без ошибок не сможет развить собственный опыт и
"Это зависит от того, что понимать под словом «умнее»."
Удивил совпадением! И порадовал. Я перед тем, как его спросить, ответила так же... Что можно ещё добавить?
Интеллект - это неотъемлемая часть прогресса! Как в человеке, так и в его способностях! Только интеллект способен корректировать безопасный процесс развития. Ведь по сути ИИ изначально воспитывается человеческим интеллектом.
А что касается разницы в самоконтроле, то есть, ИИ запрограммирован на безошибочный результат в отличие от человека, который действует по интуитивному принципу. В этом случае можно будет предполагать, что искусственный интеллект, в некотором роде, станет страховкой. Не будет ничего плохого в том, когда на ясное знание ИИ ложится чьё-то не знание или невнимательность. ИИ способен будет выравнивать процессы. В принципе, уже сейчас можно наблюдать такое Корректировка грамматического писания... Помощь в решении математических заданий. ИИ помогает искать правильное решение. Исправлять ошибки, запоминать правильные решения.
Если мы, люди, каждый раз будем вынуждены учиться на своих ошибках, то в случае с Искусственным Интеллектом, который будет настроен положительным результатом для будущего развития, мы сможем восстановить торжество разума. И в этом есть совершенный процесс совместного развития.