1960-е
В это время появились первые искусственные нейронные сети, в частности перцептрон[2], разработанный Фрэнком Розенблаттом. Однако в 1969 году Марвин Минский и Сеймур Пейперт опубликовали книгу «Перцептроны», в которой указали на серьезные ограничения его архитектуры. Они доказали, что перцептроны не могут решать определенные задачи, такие как задача XOR (исключающее ИЛИ)[3]. Это привело к значительному снижению интереса к нейронным сетям и остановке развития данной области на некоторое время, этот период также называют «зима ИИ».
1970–1980-е
В это время искусственный интеллект развивался в основном за счет символьных подходов. Символьный подход в искусственном интеллекте – это направление, в котором модели ИИ строятся на основе представления знаний с использованием символов и формальных структур, таких как правила, фреймы и логические выражения. Этот подход также называется когнитивным или GOFAI (Good Old-Fashioned Artificial Intelligence – «старомодный искусственный интеллект[4]»).
Основная идея символьного подхода заключается в том, что знания можно представить в виде символов и манипулировать ими с помощью формальных операций.
Экспертные системы, такие как MYCIN и DENDRAL, стали демонстрировать значительный успех в решении специализированных задач.
1980–1990-е
В 1980–1990-е годы начали интересоваться идеей распределенной и параллельной обработки информации. Это означает, что множество частей информации обрабатывались одновременно, что было новым подходом в то время.
В 1986 году Румельхарт, Хинтон и Уильямс представили новый метод обучения для многослойных нейронных сетей (в частности перцептрона), называемый алгоритмом обратного распространения ошибки. Многослойные нейронные сети – это сложные структуры, состоящие из множества нейронов, которые работают вместе, чтобы обрабатывать информацию и делать прогнозы.
Алгоритм обратного распространения ошибки заключается в вычислении ошибки между предсказанием нейронной сети и реальным значением. Затем эту ошибку используют для корректировки «весов»[5] или связей между нейронами. Идея состоит в том, чтобы нейронная сеть становилась лучше с каждым шагом обучения.
В 1997 году компьютер Deep Blue от IBM победил мирового шахматного чемпиона Гарри Каспарова.
2000-е
В это время началось развитие глубокого обучения, были предложены алгоритмы и методы для обучения глубоких нейронных сетей[6]. Особый интерес вызывали сверточные нейронные сети[7] (CNN) для обработки изображений и рекуррентные нейронные сети[8] (RNN) для обработки последовательностей.
2010-е
Этот период был насыщен значительными достижениями в области глубокого обучения и искусственного интеллекта. В 2012 году на ImageNet, престижном соревновании по распознаванию