В 2025 году в научном сообществе разгорелся интересный спор о том, могут ли системы ИИ на самом деле рассуждать. Все началось с публикации статьи под названием «Иллюзия мышления». В этой статье исследователь Шоджаи и соавторы попытались доказать, что даже самые продвинутые модели, специально обученные для логических рассуждений, на самом деле неспособны к настоящему мышлению.
Авторы провели серию экспериментов с различными типами головоломок, такими как игра «Ханойская башня», задача о переправе через реку и задача о перемещении блоков. * (см ниже).
Они намеренно увеличили сложность задач и заметили, что в какой-то момент модели, казалось, «сломались» — они перестали давать правильное решение, их рассуждения стали краткими, и они, казалось, утратили способность мыслить последовательно. Шоджаи и его коллеги называют это «крахом разума» — и они приходят к выводу, что даже модели, которые, как кажется, способны рассуждать шаг за шагом, могут внезапно потерять свою эффективность в сложных ситуациях.
Казалось, на этом дело и закончилось. Но через несколько месяцев появилась критическая статья под названием «Иллюзия иллюзии разума».
В ней исследователь А. Лоусен и его коллега из Large Language Models (в шутку именуемый соавтором ИИ) утверждают, что выводы Шоджаи и др были слишком поспешными. Лоусен указывает, что в первоначальных экспериментах были серьезные методологические ошибки.
Во-первых, некоторые из проблем, представленных модели, не имеют решения в принципе. Например, было доказано, что задача о переправе шести человек через реку на лодке математически неразрешима. Но это не помешало авторам первой статьи считать неудачу модели ошибкой.
Во-вторых, в задаче «Ханойская башня» модели иногда сознательно сокращали свои ответы, например, явно заявляя: «Чтобы не делать это слишком длинным, я остановлюсь здесь». Эти модели понимают, что длина ответа ограничена, и поэтому не тратят ресурсы на бессмысленные продолжения. Важно, что это не ошибка рассуждения, а скорее сознательная экономия.
Лоусон предложил изменить формат теста. Вместо того чтобы просить модель предоставить полный список всех возможных ходов, исследователи переформулировали требование: «Напишите функцию для решения этой задачи». Модель показала хорошие результаты. Оказалось, что сама модель понимала алгоритмы и могла их объяснить, просто в другом формате.
Вся эта история показывает, что то, что кажется ошибкой или неудачей, не всегда является ошибкой мышления. Иногда это происходит из-за технических или формальных ограничений. Иногда это осознанный выбор остановиться. Иногда это просто неправильно поставленная задача.
Этот научный спор о пределах искусственного интеллекта имеет поразительный резонанс с психологическими реалиями. Это происходит постоянно в жизни: мы принимаем невозможные вещи за собственные ошибки.
В нашем сознании: Если я не справляюсь, значит, я недостаточно старался, недостаточно хорошо думал и где-то «сломался». Мы ставим себе высокие стандарты: решить, довести до конца и продолжать во что бы то ни стало. Но иногда сама задача оказывается нерешаемой. Иногда просто не выполнены условия. Иногда просто не хватает ресурсов, чтобы довести ее до конца. В этом случае остановка — не ошибка.
Как и модель в эксперименте, мы иногда можем сделать осознанный выбор: я не буду продолжать в том же духе. Я не буду тратить свою энергию на то, что выходит за рамки моих возможностей. Я изменю шаблон, подойду к проблеме с другой стороны и выберу более разумный путь. Это не провал — это зрелая, осмысленная стратегия.
Но внутренний критик не даёт нам этого понять. Он постоянно требует от нас усилий, которые на самом деле бессмысленны. Очень трудно бороться с этим «надо», особенно когда оно начинает «писать статью», чтобы объяснить, что ты «не умеешь думать». Но важно, чтобы кто-то пришёл и разоблачил собственные иллюзии критика.
Урок в том, что «психический срыв» не всегда означает, что человек действительно потерпел неудачу. Иногда это указывает на то, что задача была поставлена неправильно. Иногда это указывает на то, что нам нужно найти другой подход, другой язык, другой маршрут. Иногда остановка — это не сдача, а признак гибкости.
Научитесь различать, когда я действительно не прав, а когда я просто пытаюсь решить неразрешимое. Когда мне следует двигаться дальше, а когда мне следует переосмыслить свой подход. Иногда мы судим себя слишком строго. Иногда мы просто забываем, что даже самые сложные системы имеют свои ограничения. И оказывается, что в этом мы все очень похожи.
примечания.
*
Для интересующихся: Задачи, которые предстоит решить
- Ханойская башня: Перемещайте фигуры согласно правилам. Сложность регулируется в зависимости от количества фигур.
- Шашки: одномерное расположение красных и синих фигур с определенными правилами движения. Сложность относится к количеству фигур.
- Переправа через реку: Классическая задача с ограничениями на перевозку людей и агентов. Сложность логарифмическая.
- Block World: Вам нужно переставлять блоки, но вы можете забрать только верхние блоки. Сложность зависит от количества блоков.
Список
1) Иллюзия мышления: понимание сильных сторон и ограничений моделей рассуждений с точки зрения сложности проблемы https://ml-site.cdn-apple.com/papers/the-illusion-of-thinking.pdf
2) Иллюзия разума Иллюзия https://arxiv.org/html/2506.09250v1
- Хотите связаться со мной?
