История искусственного интеллекта: от логических систем к нейросетям
Ключевые тезисы
- Ранний ИИ фокусировался на логическом выводе и системах, основанных на правилах, а не на обучении на данных.
- Многие ранние системы (автоматические доказатели теорем, машинный перевод, экспертные системы) были впечатляющими демонстрациями, но не могли масштабироваться на реальные задачи.
- Переломный момент наступил с переходом к парадигме машинного обучения, где системы обучаются на данных, а не программируются вручную.
- Современные нейросети вдохновлены биологией, но их архитектура и алгоритмы обучения принципиально отличаются от устройства человеческого мозга.
Ранний оптимизм и логические системы
После Дартмутского семинара (1956) считалось, что ключ к ИИ — научить компьютер логически рассуждать.
- Logic Theorist (Аллен Ньюэлл, Герберт Саймон): первая программа для автоматического доказательства теорем. Могла доказывать утверждения из «Principia Mathematica», иногда находя более элегантные доказательства. Воспринималась создателями как «мыслящая машина».
- Shakey the Robot (середина 1960-х): мобильный робот, способный планировать действия и распознавать объекты с помощью компьютерного зрения. Все алгоритмы были написаны вручную, без машинного обучения.
Первые попытки обработки естественного языка
- ELIZA (Джозеф Вейценбаум): первый чат-бот, работавший на жестких паттернах и правилах. Несмотря на простоту, особенно в роли психотерапевта, привлекала пользователей, что заставило автора задуматься о этических последствиях.
- SHRDLU (Терри Виноград): система, «понимавшая» команды на естественном языке в ограниченном мире блоков. Могла разрешать анафоры (определять, к чему относится местоимение). Была тщательно срежиссированной демонстрацией («потемкинской деревней»), а не работающей технологией.
Машинный перевод и «зима ИИ»
- В 1950-е годы машинный перевод считался достижимой целью, аналогичной расшифровке кода.
- Теория порождающих грамматик Ноама Хомского предполагала существование универсальной грамматики, что вселяло надежды на создание переводчика через преобразование в эту грамматику.
- Georgetown-IBM experiment (1954): публичная демонстрация перевода с русского на английский. Хотя результат впечатлял, система работала только в узких, предзаданных рамках.
- Отчет комитета ALPAC (1966) констатировал отсутствие экономической целесообразности в машинном переводе в ближайшей перспективе, что стало одной из причин наступления «зимы ИИ» (период спада интереса и финансирования в 1970-х — начале 1980-х).
Экспертные системы и представление знаний
В период «зимы» развивались подходы, не связанные с машинным обучением.
- Экспертные системы (напр., MYCIN): пытались формализовать знания экспертов (например, врачей) в виде набора правил с факторами уверенности или с использованием нечёткой логики (fuzzy logic). Это был разговор об управлении неопределенностью, но правила приходилось постоянно дополнять вручную.
- Представление знаний и графы знаний: попытка представить знания о мире в машиночитаемой форме (например, в виде графа, где вершины — сущности, а ребра — отношения между ними). Графы знаний (триплеты «субъект — отношение — объект») остаются полезной абстракцией и применяются до сих пор, в том числе в симбиозе с языковыми моделями.
Нейросети: биологическая мотивация
Современный deep learning основан на искусственных нейронных сетях, вдохновленных биологией.
- Биологический нейрон: имеет множество входов (дендриты), тело (сома) и один выход (аксон). Нейроны обмениваются сигналами (спайками), где информация кодируется частотой импульсов.
- Особенности мозга:
- Огромное число нейронов (
100 млрд) и связей (квадриллион синапсов). - Очень низкая тактовая частота (10-200 Гц).
- Короткие цепочки обработки (10-15 слоев), но высочайший параллелизм.
- Огромное число нейронов (
- Вывод для ИИ: вычисления в нейросетях должны быть скорее широкими и параллельными, чем глубокими и последовательными. Это объясняет эффективность GPU (много слабых ядер) для обучения нейросетей.
Ответы на вопросы
- Деградация моделей на AI-генерированных данных: Теоретически возможен коллапс разнообразия (model collapse), но на практике прогресс не останавливается — каждое новое поколение моделей умнее предыдущего.
- Фундаментальные ограничения LLM: Существуют практические ограничения (стоимость, энергопотребление, нехватка данных), но пока они не останавливают прогресс. Человеческого уровня интеллекта достичь вполне реально.
- Специальные процессоры для ИИ: Разрабатывать чипы под конкретную нейросеть нецелесообразно из-за скорости прогресса. Однако нейросети уже используются для проектирования более эффективных чипов (например, для умножения матриц), а архитектурно-специализированные процессоры (например, для трансформеров) имеют смысл.
Выводы
История ИИ — это путь от попыток формализовать логику и знания вручную к парадигме обучения на данных. Современный успех основан на нейросетях, которые, черпая вдохновение в биологии, реализуют принципиально иные, но чрезвычайно эффективные вычислительные модели. Классические подходы (экспертные системы, графы знаний) оставили важное концептуальное наследие, но не смогли масштабироваться на сложные реальные задачи.