Общий искусственный интеллект. Юлиан Тогелиус

совсем абстрактным. Они не всегда помогают представить, как будет выглядеть ОИИ. В главе 5 мы рассмотрим различные версии того, каким может быть ОИИ, обращаясь к примерам из научной фантастики. Научная фантастика, вдохновлявшая целые поколения исследователей ИИ, помогает не только представить возможные варианты будущего с ИИ, но и понять различия между ними. Оставляя теоретические рассуждения и переходя к практическим исследованиям ИИ, я посвящаю следующие три главы реальным подходам к созданию ОИИ. В главе 6 я анализирую основные направления исследований ИИ и пытаюсь понять, способно ли хотя бы одно из них самостоятельно привести к созданию ОИИ. Забегая вперед: ответ отрицательный.

      В следующих двух главах я рассматриваю наиболее перспективные, на мой взгляд, подходы к созданию ОИИ. Первый из них, описанный в главе 7, – базовые модели на основе самообучения (self-supervised learning). Последние годы принесли впечатляющие результаты в обучении крупных нейронных сетей на колоссальных объемах данных из интернета. Получившиеся сети демонстрируют порой неожиданные возможности, справляясь даже с задачами, для которых их специально не обучали. GPT-4 от OpenAI, изначально обученная только для предсказания текста, способна выполнять переводы, делать обобщения, вести философские рассуждения, решать домашние задания и многое другое. Другая базовая модель, Stable Diffusion, может создавать разнообразные изображения по текстовым запросам, сжимать и ретушировать их и т. д. Однако нетрудно найти задачи, с которыми эти удивительные модели (пока) не справляются. Сработает ли такой подход в более крупном масштабе? Приведет ли простое увеличение размера сетей и объема данных для их обучения к созданию некой формы ОИИ?

      В главе 8 я рассматриваю другой, комплементарный подход к ОИИ – открытое обучение в виртуальных средах. При таком подходе системы ИИ выступают как активные агенты в симулированных мирах, а не просто пассивно обучаются на созданных человеком данных. Идея основана на том, чтобы позволить ИИ развиваться эволюционным путем, подобно тому как развивался интеллект на Земле. Ученые давно изучают агентов, обучающихся действовать для максимизации вознаграждения, но несмотря на значительные успехи, такие агенты обычно вырабатывают ограниченные стратегии вместо универсальных решений. Особенность открытого обучения в том, что система ИИ сама формулирует свои цели и создает задачи, которые считает нужным решить. Это помогает избежать чрезмерной специализации. Хотя результаты обнадеживают, остается вопрос: смогут ли такие системы освоить навыки, полезные для человека?

      Допустим, нам удастся создать систему искусственного интеллекта со значительной степенью общности. Будет ли у нее внутренний опыт существования? Будет ли у нее собственная точка зрения и самосознание? И если да, возникнут ли у нас этические обязательства перед такой системой? В главе 9 я рассматриваю сложную проблему сознания ОИИ. Хотя однозначных ответов в этой области нет, существуют заслуживающие