Герберт Саймон и Искусственный Интеллект: Как теоретик принятия решений совместно создал первую программу ИИ
Герберт Саймон (1916–2001) совместно с Алленом Ньюэллом и Клиффом Шоу создал Логического Теоретика — программу, широко считающуюся первой программой искусственного интеллекта. В январе 1956 года Саймон сказал своему классу: «На Рождество мы с Алом Ньюэллом изобрели мыслящую машину». Логический Теоретик доказал 38 из первых 52 теорем во второй главе "Principia Mathematica" Уайтхеда и Рассела и нашел более элегантное доказательство теоремы 2.85; Бертран Рассел отреагировал с восторгом, но Журнал Символической Логики отклонил статью, посчитав новое доказательство элементарной теоремы недостойным публикации. Саймон и Ньюэлл продолжили работу над Общим Решателем Проблем (первая версия 1957 года, отчет опубликован в 1959), введя анализ средств и целей, и сформулировали Гипотезу Физической Символьной Системы на своей лекции Тьюринга в 1976 году: «Физическая символьная система имеет необходимые и достаточные средства для общего интеллектуального действия». Саймон — один из немногих людей, удостоенных как Премии Тьюринга ACM (1975, с Ньюэллом), так и Нобелевской премии по экономике (1978). Основная идея его исследований в области принятия решений: интеллект — это эвристический поиск в условиях ограничений — ограниченная рациональность, реализованная в коде. Глубокое обучение опровергло сильное утверждение символической программы, но ядро ограниченной рациональности сохраняется: современные системы по-прежнему полагаются на эвристический поиск, приближенные решения, достаточные для выполнения задач, и определение интуиции Саймона как распознавания.
В январе 1956 года экономист вошел в класс Карнеги Тех и объявил: На Рождество мы с Алом Ньюэллом изобрели машину для мышления. Это было едва ли преувеличением — Логический Теоретик, смоделированный вручную с помощью карточек до того, как он запустился на аппаратном обеспечении, стал первой программой ИИ. Его принцип проектирования основывался на науке о принятии решений Симона, превращенной в код: интеллект — это умный поиск в условиях ограничений, а не исчерпывающие вычисления.
- Логический теорем (1956) — доказал 38 из первых 52 теорем "Principia Mathematica" с помощью эвристического поиска; его улучшенное доказательство теоремы 2.85 порадовало Бертрана Рассела и было отклонено Журналом символической логики.
- Общий решатель проблем (1957–59) — ввел анализ средств и целей, который до сих пор узнаваем в планировании ИИ.
- Гипотеза 1976 года — физическая символическая система обладает необходимыми и достаточными средствами для общего интеллектуального действия: основное утверждение символического ИИ.
- Нобель + Тьюринг — Саймон остается одним из немногих людей, обладающих обоими.
- Честная оценка: глубокое обучение опровергло сильное утверждение символической программы — и подтвердило более глубокое, что интеллект ограничен, эвристичен и основан на распознавании.
Один человек доказал, что нельзя принимать идеальные решения, сказал, что делать вместо этого, а затем создал первый искусственный интеллект на том же принципе. Три взаимосвязанных аспекта о Герберте Саймоне: теория, практика и машины.
- 1.Herbert Simon Won a Nobel Prize for Proving You Can't Make Perfect Decisions. Here's What to Do Instead.
- 2.Stop Searching for the Perfect Decision. Nobel Prize Research Says "Good Enough" Wins.
- 3.The Decision Theorist Who Co-Founded AI: How Herbert Simon's Christmas Thinking Machine Changed EverythingВы здесь
Январь 1956 года. Технологический институт Карнеги. 39-летний профессор — политолог по образованию, уже известный среди экономистов за утверждение, что никто ничего не оптимизирует — начинает свой курс по математическому моделированию с фразы, которая не должна была быть правдой: На Рождество мы с Алом Ньюэллом изобрели машину для мышления.
Машина едва существовала как машина. Во время праздничных каникул Саймон, Аллен Ньюэлл и программист Клифф Шоу разработали Логического Теоретика — и прежде чем он когда-либо запустился на компьютере, они вручную смоделировали его: подпрограммы программы были написаны на карточках формата 3×5, раздаваемых семье Саймона и студентам, каждый человек выполнял правила одного компонента. Мыслительная машина, впервые запущенная на людях. К тому лету она работала на аппаратном обеспечении и была представлена на семинаре в Дартмуте — встрече, которая дала название искусственному интеллекту.
Эта история обычно относится к истории вычислений. Она также принадлежит науке о принятии решений — потому что Логический Теоретик не был более быстрым калькулятором. Это была теория Симона о ограниченной рациональности, реализованная в коде: если человеческий интеллект работает через сокращения и выборочное исследование, а не через исчерпывающие вычисления, то машина, использующая сокращения и выборочное исследование, также может быть интеллектуальной. Все, что Симон создал в области ИИ, вытекает из этого одного шага.
На Рождество,
Аль Ньюэлл и я изобрели мыслящую машину.
— Герберт А. Саймон, своему классу в Карнеги Тех, январь 1956 года (Модели моей жизни, 1991)
Резюме, которого не должно быть
Герберт Александр Саймон (1916–2001) получил степень доктора философии в области политических наук (Чикаго, 1943), написал Административное поведение (1947) о том, как организации на самом деле принимают решения, и провел пять десятилетий в Карнеги-Меллон, работая в областях экономики, психологии, информатики и философии науки. Награды говорят о его разносторонности: Премия Тьюринга ACM 1975 года вместе с Алленом Ньюэллом за основные вклады в искусственный интеллект и психологию человеческого познания; Нобелевская премия памяти Альфреда Нобеля по экономике 1978 года за пионерские исследования в области принятия решений в экономических организациях; Национальная медаль науки США 1986 года. Он остается одним из немногих людей, которые когда-либо обладали как Премией Тьюринга, так и Нобелевской премией — за то, что он настаивал на том, что это была единая исследовательская программа.
Эта программа: понимать интеллект так, как он на самом деле функционирует — у людей, в организациях, в машинах — в условиях реальных ограничений информации, вычислений и времени. Теоретическая часть вывела на пенсию идеально рационального экономического человека. Инженерная часть задала очевидный следующий вопрос: если интеллект — это ограниченный поиск, можем ли мы его построить?
Логический теоретик: Доказательство с помощью сокращения
Логический теоретик атаковал теоремы Уайтхеда и Рассела из Principia Mathematica — памятника формальной логики начала века — и доказал 38 из первых 52 во второй главе. Метод был посланием: вместо того чтобы изнурительно проходить каждое доказательство (грубая сила, которую оборудование той эпохи не могло бы выдержать), он использовал эвристику для выбора многообещающих путей, работал в обратном направлении от целей и останавливался, когда у него было доказательство, а не лучшее. Эвристический поиск и удовлетворение — наука о принятии решений Симона, работающая на скорости машины.
Для Теоремы 2.85 был найден более элегантный доказательство, чем оригинальное. Бертран Рассел, которому тогда было за восемьдесят, с радостью отреагировал, когда Симон написал ему об этом. Журнал символической логики было труднее очаровать: он отказался опубликовать результат, посчитав новое доказательство элементарной теоремы недостойным публикации — очевидно, не учтя тот факт, что одним из авторов было компьютерная программа.
Общий решатель проблем: стратегия без предметной области
Программа-преемник была более амбициозной именно в том направлении, которое вы ожидаете от автора Административного поведения. Общий решатель проблем — первая версия запущена в 1957 году, отчет опубликован в 1959 году Ньюэллом, Шоу и Саймоном — представила анализ средств и целей: измерьте разницу между текущим состоянием и целевым состоянием, найдите оператор, который уменьшает эту разницу, примените его, повторите. Навигация путем закрытия разрыва.
Реальная инновация GPS заключалась в архитектуре: она отделила стратегию решения проблемы от содержания проблемы. Один и тот же движок мог решать задачи, доказательства или планы, получая описание состояний и операторов. Это разделение — общий метод, подключаемая область — стало основным принципом проектирования ИИ, и анализ средств и целей все еще узнаваем в современных системах планирования.
Большое утверждение: Символы и поиск
В своей лекции, посвященной премии Тьюринга 1976 года, "Компьютерные науки как эмпирическое исследование", Ньюэлл и Саймон обобщили два десятилетия работы в области в самую известную гипотезу: физическая символическая система обладает необходимыми и достаточными средствами для общего интеллектуального действия. Умы манипулируют символами; компьютеры манипулируют символами; следовательно, при соответствующем программировании компьютеры могут действовать интеллектуально — и ничего, кроме манипуляции символами, не требуется. Это стало основой того, что сейчас называется символическим ИИ или GOFAI.
Они также сделали предсказания с указанием дат, и даты оказались неверными. В своей статье 1958 года в журнале Operations Research Симон и Ньюэлл предсказали, что в течение десяти лет цифровой компьютер станет чемпионом мира по шахматам, если только правила не запретят ему участвовать в соревнованиях. Чемпион мира пал перед компьютером в 1997 году — через 39 лет после предсказания, а не через десять. Стоит отметить, какого рода это ошибка: механизм (эвристический поиск по пространству, которое ни одна машина не могла бы исчерпать) был совершенно правильным; временные рамки оказались неверными на одно поколение. Оба факта должны быть зафиксированы.
Разве глубокое обучение не опровергло Симона?
Вот возражение, с которым приходит читатель 2026 года: современный ИИ не является символическим. Нейронные сети учат паттерны из данных; никто не пишет эвристики вручную; и влиятельное эссе Ричарда Саттона 2019 года "Горький урок" звучит как приговор всему подходу Симона — семидесятилетняя история ИИ показывает, что общие методы, которые масштабируются с вычислениями, превосходят системы, построенные на знаниях, созданных человеком.
Возражение частично обосновано. Сильное символическое утверждение не выдержало испытания: оказалось, что символов было недостаточно, и созданные вручную программы знаний 1970-х и 80-х годов достигли плато, как и описывает Саттон. Честный отчет Симона говорит об этом совершенно ясно. Но прочитайте собственное заключение «Горького урока»: две методологические семьи, которые масштабируются, это поиск и обучение. Эвристический поиск — это вклад Симона и Ньюэлла в эту область, который жив сегодня от поиска в деревьях игр до целенаправленных циклов рассуждений современных ИИ-систем. А то, что делают глубокие сети — распознают паттерны, накопленные из огромного опыта — удивительно близко к определению экспертизы Симона. Обучение с подкреплением, основатели которого Эндрю Барто и Ричард Саттон получили премию Тьюринга 2024 года (объявлено в марте 2025 года), является селективным методом проб и ошибок в рамках вычислительных ограничений — исследовательская программа, которую Симон бы признал родственной.
Итак, оценка разделена, и это разделение поучительно: архитектура, на которую он сделал ставку, потерпела неудачу; теория интеллекта, лежащая в ее основе, выиграла. Машины не стали умными, вычисляя исчерпывающе. Они стали умными благодаря ограниченному, эвристическому, ориентированному на распознавание поиску — на чем Симон построил свою карьеру. Недавние исследования замыкают круг с другой стороны: исследования 2025 года показывают, что большие языковые модели сами демонстрируют ограниченную рациональность, отклоняясь от игрового теоретического оптимума человеческим образом, в то время как удовлетворение потребностей было встроено в выравнивание модели как ограничения уровня стремления.
Интуиция — это ничто иное
и ничто иное, как признание.
— Герберт А. Саймон (1992), как цитируется в Кахнеман и Кляйн, Американский психолог (2009)
Отпечатки пальцев Симона на современном ИИ
Эвристический поиск
От поиска пути A* до поиска в игровом дереве и современных циклов целенаправленного рассуждения: ни одна серьезная система не проводит исчерпывающий поиск. Селективный поиск в рамках бюджета — это метод Логического Теоретика, индустриализированный.
Удовлетворение
Обучение останавливается при приемлемой потере, а не при доказанном оптимуме; системы реального времени действуют на основе лучшего доступного ответа к сроку. Достаточно хорошо в условиях ограничений теперь является инженерным принципом.
Интуиция как распознавание
Саймон определил экспертную интуицию как распознавание — ситуация предоставляет подсказку, подсказка извлекает сохраненные шаблоны. Трудно написать лучшее однострочное описание того, что делает обученная нейронная сеть.
Ограниченные машины, измеренные
Исследование 2025 года рассматривает LLM как ограниченно рациональных агентов — измеряя их человеческие эвристики (arXiv:2506.09390) и выравнивая их через удовлетворительные пороги (arXiv:2505.23729).
Хронология: Жизнь полимата
Что взять от Симона в эпоху ИИ
Четыре рабочих принципа для всех, кто строит с ограниченными машинами или принимает решения вместе с ними:
1. Запланируйте вычисления, не отказывайтесь от них
Ни ваша команда, ни ваша модель не оптимизируют. Проектируйте для надежного достаточного результата в рамках явного бюджета, а не для случайного идеала — как для подсказок, так и для процессов.
2. Сделайте рассуждения проверяемыми
Доказательства Логического Теоретика можно было читать и проверять. Держите современные рабочие процессы на уровне основателя: вывод, чье обоснование нельзя проверить, не может быть доверен или улучшен.
3. Разделите труд по силе
Машины ищут широко и быстро; люди оценивают ставки, ценности и обратимость. Явно спроектируйте передачу ответственности, вместо того чтобы позволять тому, кто ответил последним, решать.
4. Архивировать решения как обучающие данные для организации
Саймон назвал организационную память расширением ограниченных умов. Поисковый архив прошлых решений и их обоснований именно таков — как для людей, так и для инструментов.
Диагностический вопрос
Когда ваша команда использует ИИ в принятии решения, может ли кто-то показать обоснование позже — или только ответ?
Где подходит Argumentree
Саймон рассматривал человеческий и машинный интеллект как одну тему: ограниченные агенты, ищущие в условиях ограничений. Argumentree построен на той же предпосылке. Человеческие аргументы и аргументы, извлеченные ИИ, попадают в одну проверяемую структуру — дерево — где видимо рассуждение, оценки направляют ограниченное внимание на самые сильные моменты, а запись сохраняется как организационная память.
Для команд, чье использование ИИ должно быть подотчетным, сестринский продукт AIAgentree расширяет ту же идею на машинное рассуждение — отслеживание того, как ИИ-система пришла к своему выводу, в структуре, которую Симон попросил бы увидеть.
Долгая ставка
Шахматные часы Симона пробили четыре раза, символическая архитектура уступила место, и поле, которое он соучредил, теперь работает на методах, которые он не создавал. Оцененное как пророчество, это смешанная запись. Оцененное как наука, нечто более редкое: основное утверждение — что интеллект, где бы он ни проявлялся, представляет собой ограниченный поиск, управляемый распознаванием — пережило каждую архитектуру, использованную для его тестирования, включая его собственную.
Вот почему классическая фраза все еще актуальна спустя семьдесят лет. Он не анонсировал гаджет. Он объявил, что мышление стало предметом инженерии — для умов, для организаций и теперь для машин.
Интеллект никогда не был идеальным вычислением. Это умный поиск в условиях ограничений — в умах, в организациях и в машинах.
Мышление, которое вы можете проверить
Аргументы человека и ИИ в одной видимой структуре с постоянной записью — стандарт Симона, применяемый к вашим решениям.
Источники и дополнительная литература
- Саймон, Г. А. (1991). Модели моей жизни. Нью-Йорк: Бейсик БуксАвтобиография Симона — источник объявления в классе в январе 1956 года и происхождения Логического Теоретика.
- Ньюэлл, А. и Саймон, Х. А. (1976). Компьютерные науки как эмпирическое исследование: символы и поиск. Коммуникации ACM, 19(3), 113–126Лекция о премии Тьюринга; источник гипотезы физической символической системы, приведённой дословно.
- Саймон, Г. А. и Ньюэлл, А. (1958). Эвристическое решение задач: следующий шаг в операционных исследованиях. Операционные исследования, 6(1), 1–10Десятилетние прогнозы, включая утверждение о чемпионе мира по шахматам, обсуждаемое в тексте.
- Канеман, Д. и Кляйн, Г. (2009). Условия интуитивной экспертизы: Неспособность прийти к согласию. Американский психолог, 64(6), 515–526Цитирует Симона (1992) о интуиции как распознавании (с. 155) — отрывок, использованный в выноске.
- Премия имени А. М. Тьюринга 1975 года — Аллен Ньюэлл и Герберт А. Саймон, ACMНаградной рекорд за основные вклады в искусственный интеллект и психологию человеческого познания.
- Саттон, Р. С. (2019). Горький урокЭссе за разделом контраргумента: общие методы, которые масштабируются — поиск и обучение — превосходят встроенные знания.
- ACM объявляет о вручении Премии Тьюринга 2024 года: Эндрю Г. Барто и Ричард С. Саттон (март 2025)Упомянутая в контраргументе награда Тьюринга в области обучения с подкреплением.
- За пределами равновесия Нэша: ограниченная рациональность LLM и людей в стратегическом принятии решений (2025). arXiv:2506.093902025 доказательства того, что большие языковые модели демонстрируют человеческую ограниченную рациональность.
Часто задаваемые вопросы
Каков был вклад Герберта Саймона в искусственный интеллект?
С Алленом Ньюэллом и Клиффом Шоу Симон создал Логического Теоретика (1956) — который широко считается первой программой ИИ — которая доказывала теоремы из Principia Mathematica, используя эвристический поиск, а не грубую силу. Он и Ньюэлл затем разработали Общий Решатель Проблем (первая версия 1957 года, отчет 1959 года), введя анализ средств и целей, и сформулировали Гипотезу Физической Символьной Системы на своей лекции Тьюринга в 1976 году. Он получил Премию Тьюринга ACM в 1975 году вместе с Ньюэллом за эти достижения.
Что такое Логический Теоретик и почему это важно?
Логический теоретик был первой программой, разработанной для выполнения человеческого рассуждения. Она доказала 38 из первых 52 теорем во второй главе "Principia Mathematica" Уайтхеда и Рассела и нашла более элегантное доказательство теоремы 2.85 — что обрадовало Бертрана Рассела, хотя Журнал символической логики отказался его опубликовать, посчитав новое доказательство элементарной теоремы недостойным. Это имело значение, потому что оно продемонстрировало машинный интеллект через эвристический поиск — сокращения, а не исчерпывающие вычисления.
Как ограниченная рациональность сформировала ранний ИИ?
Прямо. Исследования решений Симона показали, что люди рассуждают с помощью эвристик и удовлетворения — избирательного поиска, который останавливается на достаточно хорошем. Это означало, что машинному интеллекту не требуется бесконечная вычислительная мощность: программа, использующая хорошо подобранные сокращения, могла вести себя разумно на аппаратном обеспечении 1950-х годов. Эвристический поиск стал основным методом ИИ и прямо происходит от теории Симона о том, как ограниченные умы принимают решения.
Что такое гипотеза физической символической системы?
Утверждено Ньюэллом и Симоном в их лекции по награде Тьюринга 1976 года: физическая символическая система имеет необходимые и достаточные средства для общего интеллектуального действия. Она утверждает, что интеллект состоит в манипуляции символическими структурами — основная тезис символического ИИ. Современное машинное обучение на практике опровергло утверждение о достаточности, хотя гибридные нейросимволические подходы сохраняют части программы в живых.
Глубокое обучение опровергло Саймона?
Это разрушило его архитектуру и подтвердило его теорию. Ручные символические системы знаний достигли плато, как рассказывает «Горький урок» Ричарда Саттона (2019) — но методы, которые победили, поиск и обучение, реализуют более глубокое утверждение Симона о том, что интеллект ограничен, эвристичен и основан на распознавании. Его определение 1992 года — интуиция не что иное, как распознавание — замечательно описывает обученные нейронные сети, а исследования 2025 года показывают, что LLM также демонстрируют ограниченную рациональность.
Харберту Саймону действительно удалось выиграть как Нобелевскую премию, так и премию Тьюринга?
Да — премия Тьюринга ACM 1975 года (совместно с Алленом Ньюэллом) за вклад в искусственный интеллект и психологию человеческого познания, а также Мемориальная Нобелевская премия по экономическим наукам 1978 года за его исследования в области принятия решений в экономических организациях. В 1986 году он также получил Национальную медаль науки США. Он рассматривал все это как одну исследовательскую программу: интеллект в условиях ограничений.
Что Симон предсказал о компьютерных шахматах?
В статье по операционным исследованиям 1958 года Симон и Ньюэлл предсказали, что в течение десяти лет цифровой компьютер станет чемпионом мира по шахматам, если его не исключат из соревнований. Это произошло через 39 лет — чемпион мира проиграл матч компьютеру в 1997 году. Механизм, который они предсказали, эвристический поиск по исчерпаемому дереву игры, в сущности, и стал причиной этого; временные рамки оказались смещены на одно поколение.
Поместите обоснование на видное место
Деревья аргументов как для человеческого, так и для ИИ-рассуждения — подлежащие проверке, оценке и постоянно фиксируемые.
О нас Argumentree Team
Decision Science
The Argumentree team is building the collaborative decision-making platform Argumentree. Our mission is to transform how organizations make, document, and learn from decisions.
Связанные статьи
Была ли гипотеза физической символической системы ошибочной — или преждевременной?
Занимайте позицию и защищайте её, аргумент за аргументом, на форуме Argumentree.
Присоединяйтесь к обсуждению