Какую сложность вы выбираете в РПГ? (страница 1)

1943 — У. Маккалок и У. Питтс формализуют понятие нейронной сети в фундаментальной статье о логическом исчислении идей и нервной активности[2]. В начале своего сотрудничества с Питтсом Н. Винер предлагает ему вакуумные лампы в качестве средства для реализации эквивалентов нейронных сетей[5].
1948 — опубликована книга Н. Винера о кибернетике. Основной идеей стало представление сложных биологических процессов математическими моделями.
1949 — Д. Хебб предлагает первый алгоритм обучения.
В 1958 Ф. Розенблатт изобретает однослойный перцептрон и демонстрирует его способность решать задачи классификации[6]. Перцептрон использовали для распознавания образов, прогнозирования погоды. К моменту изобретения перцептрона завершилось расхождение теоретических работ Маккалока с «кибернетикой» Винера; Маккалок и его последователи вышли из состава «Кибернетического клуба».
В 1960 году Бернард Уидроу [en]совместно со своим студентом Хоффом на основе дельта-правила (формулы Уидроу) разработали Адалин, который сразу начал использоваться для задач предсказания и адаптивного управления. Адалин был построен на базе созданных ими же (Уидроу — Хоффом) новых элементах — мемисторах[7][8].
В 1963 году в Институте проблем передачи информации АН СССР. А. П. Петровым проводится исследование задач «трудных» для перцептрона[9]. На эту работу в области моделирования ИНС в СССР опирался М. М. Бонгарда в своей работе как «сравнительно небольшой переделкой алгоритма (перцептрона) исправить его недостатки»[10].
В 1969 году М. Минский публикует формальное доказательство ограниченности перцептрона и показывает, что он неспособен решать некоторые задачи (проблема «чётности» и «один в блоке»), связанные с инвариантностью представлений.
В 1972 году Т. Кохонен и Дж. Андерсон [en]независимо предлагают новый тип нейронных сетей, способных функционировать в качестве памяти[11].
В 1973 году Б. В. Хакимов предлагает нелинейную модель с синапсами на основе сплайнов и внедряет её для решения задач в медицине, геологии, экологии[12].
1974 — Пол Дж. Вербос[13] и Галушкин А. И.[14] одновременно изобретают алгоритм обратного распространения ошибки для обучения многослойных перцептронов[15].
1975 — Фукусима [en]представляет когнитрон — самоорганизующуюся сеть, предназначенную для инвариантного распознавания образов, но это достигается только при помощи запоминания практически всех состояний образа.
1982 — Дж. Хопфилд показал, что нейронная сеть с обратными связями может представлять собой систему, минимизирующую энергию (сеть Хопфилда). Кохоненом представлены модели сети, обучающейся без учителя (нейронная сеть Кохонена), решающей задачи кластеризации, визуализации данных (самоорганизующаяся карта Кохонена) и другие задачи предварительного анализа данных.
1986 — Дэвидом И. Румельхартом, Дж. Е. Хинтоном и Рональдом Дж. Вильямсом[16], а также независимо и одновременно С. И. Барцевым и В. А. Охониным[17], переоткрыт и развит метод обратного распространения ошибки."