При этом слово «интеллект» не означает, что машина понимает задачу так же, как человек.
Суть искусственного интеллекта проще рассматривать через устройство системы: какие данные она принимает, каким способом обрабатывает их и что возвращает на выходе. У машинного обучения в этой цепочке есть отдельный этап настройки модели на примерах. У готовой модели есть этап применения к новым данным. Различие между ними объясняет и сильные стороны ИИ, и пределы его возможностей.
ИИ шире нейросетей
Единого технического определения искусственного интеллекта, которое одинаково охватывало бы все системы и методы, нет. В определении NIST ИИ-система описана через функцию: это инженерная или машинная система, которая для заданных целей создаёт прогнозы, рекомендации или решения, влияющие на реальную либо виртуальную среду. Такое описание охватывает широкий класс задач и не привязывает ИИ к одному конкретному алгоритму.
Машинное обучение входит в эту область. При нём алгоритм настраивает модель на обучающих данных, чтобы она находила закономерности и применяла их к новым примерам. Нейросети представляют собой один из типов моделей машинного обучения. Поэтому объяснение, в котором весь ИИ сводится к нейросети, теряет часть картины: машинное обучение включает и другие методы, а определение ИИ охватывает системы, для которых обучение на данных не обязательно является единственным способом получить результат.
Для понимания полезно разделить три понятия:
- Искусственный интеллект обозначает широкий класс систем, создающих прогнозы, рекомендации или решения для заданных целей.
- Машинное обучение описывает подход, при котором модель настраивают по данным, чтобы она находила закономерности.
- Глубокое обучение относится к машинному обучению и использует нейросети. В одном из технических описаний глубокими называют сети более чем с тремя слоями.
Эти уровни связаны, но не взаимозаменяемы. Когда говорят о применении ИИ в конкретном устройстве или сервисе, полезнее уточнить задачу и метод, чем предполагать, что в основе обязательно лежит нейросеть.
Как модель учится на примерах
Модель можно представить как вычислительный механизм, который получает входные данные и выдаёт результат по настроенным параметрам. Во время обучения её настраивают на примерах. Алгоритм сопоставляет вход с ожидаемым результатом и корректирует параметры, чтобы на следующих примерах ответ был ближе к заданному.
Это не означает, что модель запоминает мир целиком или получает универсальное знание. Результат зависит от постановки задачи и того, какие данные использовались при настройке. Если обучение предназначено для распознавания определённых объектов на изображениях, модель оптимизируют для этой операции. Полученные параметры не превращаются автоматически в способность решать любые другие задачи.
Технически качество ответа оценивают с помощью функции потерь. Она измеряет величину ошибки относительно выбранного критерия. Затем метод оптимизации, например градиентный спуск, корректирует параметры модели в направлении уменьшения этой ошибки. Такая процедура повторяется в ходе обучения.
Схематично процесс выглядит так:
1. Модели передают обучающие примеры и задают критерий результата.
2. Она выдаёт ответы, которые сопоставляют с ожидаемыми.
3. Функция потерь измеряет ошибку.
4. Алгоритм оптимизации меняет параметры модели.
5. Настроенную модель проверяют на новых примерах, чтобы оценить, насколько она применяет найденные закономерности за пределами обучающего набора.
Последний шаг принципиален. Низкая ошибка на примерах, использованных для настройки, сама по себе не доказывает, что модель хорошо справится с незнакомыми данными. Для реального применения важна способность работать на новых входах, соответствующих задаче. Универсального объёма данных или единого порога точности, пригодного для всех моделей, нет.
Модель подстраивается под заданную задачу и критерий ошибки. Область её надёжной работы определяется тем, насколько новые данные соответствуют этой задаче.
Данные влияют на результат не только количеством. Их содержание, качество и соответствие будущим входам определяют, какие закономерности модель может выделить. Поэтому увеличение объёма данных само по себе не гарантирует роста точности. Если обучающие примеры плохо отражают условия применения, модель может ошибаться на тех случаях, которые для пользователя оказываются существенными.
Что меняется внутри нейросети
Нейросеть состоит из слоёв узлов, через которые проходят данные. Связи между узлами имеют веса. Во время обучения сеть меняет эти веса, добиваясь лучших результатов для конкретной задачи. В этом смысле обучение представляет собой настройку большого набора параметров с помощью выбранного алгоритма.
При обработке нового входа данные последовательно проходят через вычислительные слои. Каждый слой преобразует полученные значения и передаёт их дальше. На выходе возникает результат, например классификация изображения или сгенерированный фрагмент текста. Внутренние вычисления зависят от архитектуры сети и обученных параметров.
Образ «машины, устроенной как человеческий мозг» здесь может запутать. Слои и связи нейросети позволяют объяснить некоторые особенности организации вычислений, но сами по себе не доказывают, что система обладает человеческим пониманием. Техническое описание говорит о данных, параметрах, функциях и результатах. Оно не устанавливает наличие сознания, намерений или субъективного опыта.
Нейросеть также не обязана быть единственным источником решения в сложной системе. ИИ-продукт может включать алгоритмы разных типов, программные правила, интерфейс и компоненты, отвечающие за передачу данных. Пользователь видит единый сервис, но его итоговый ответ может быть результатом работы нескольких частей. Поэтому точное описание системы требует знать, какая именно операция поручена модели.
Инференс: применение обученной модели
После настройки модель применяют к данным, которых она прежде не встречала. Этот этап называется инференсом. На вход поступает новый пример, модель обрабатывает его с использованием уже настроенных параметров и выдаёт результат: прогноз, классификацию, решение или контент.
Например, в задаче распознавания изображений входом служит изображение, а результатом может быть отнесение его к заданной категории. В задаче генерации текста входом становится запрос, а выходом служит текстовый ответ. Конкретные вычисления различаются, однако общий ход сохраняется: система принимает данные, применяет модель и формирует выход.
Обучение и инференс решают разные задачи:
| Этап | Что происходит | Что меняется |
|---|---|---|
| Обучение | Модель обрабатывает обучающие примеры, а алгоритм оценивает ошибку и корректирует параметры | Настраиваются параметры модели |
| Инференс | Готовая модель получает новые данные и вычисляет результат | Модель применяет ранее настроенные параметры |
Это различие важно при оценке поведения ИИ. Ответ на запрос обычно формируется на этапе инференса. Сам факт, что модель выдала ответ, не означает, что в этот момент она заново прошла обучение или изменила свои параметры. Режим работы зависит от конкретной системы, но базовое значение инференса именно таково: применение уже обученной модели к новым данным.
Результат инференса следует понимать как вычисленный выход модели. Он может быть полезным прогнозом или подходящим продолжением текста, но форма ответа не служит доказательством того, что система осмыслила вопрос в человеческом смысле. Для оценки нужны критерии, связанные с задачей: например, насколько корректно система классифицирует вход или выполняет заданное действие.
Возможности, автономность и ограничения
ИИ-системы различаются по уровню автономности. Одни выдают рекомендацию, которую затем рассматривает человек. Другие могут влиять на виртуальную или реальную среду через автоматическое решение. Само слово «ИИ» не сообщает, насколько далеко система действует без участия человека. Это определяется её назначением, связями с другими компонентами и правилами применения.
Риски также нельзя оценить по одному показателю. В подходе NIST учитываются вероятность нежелательного события и тяжесть его последствий. Ошибка в подсказке для несущественной задачи и ошибка в системе, от решения которой зависит физическое действие, имеют разный масштаб последствий. В обоих случаях источник результата может быть алгоритмическим, однако требования к контролю будут различаться.
Ограничения возникают на нескольких уровнях:
- Входные данные. Если новые примеры отличаются от тех, на которых модель настраивали, найденные закономерности могут оказаться неприменимы.
- Цель обучения. Функция потерь измеряет ошибку по выбранному критерию. Она не охватывает автоматически все свойства результата, которые могут быть важны в реальном использовании.
- Область задачи. Модель, настроенная на определённый тип входов и результатов, не становится универсальным решателем задач.
- Последствия решения. Один и тот же уровень ошибки может быть приемлемым для рекомендации и неприемлемым для системы, непосредственно влияющей на среду.
Отсюда возникает вопрос, чем искусственный интеллект отличается от человеческого мышления. На техническом уровне машинная модель вычисляет результат на основе заданных алгоритмов и параметров; в машинном обучении эти параметры настраивают по данным. Человек способен действовать в более широком контексте, переносить опыт между областями и учитывать цели, которые не сводятся к одному формальному критерию. При этом сравнение зависит от конкретной задачи: по отдельным операциям машина может быть эффективной, но такой результат не подтверждает, что она мыслит как человек.
Предел вывода здесь строгий. Если система выдаёт связный ответ, это говорит о результате вычислений. Если она классифицирует изображение, это говорит о выполненной классификации. Чтобы делать более сильные утверждения о понимании или мышлении, нужны дополнительные основания, которых описание обучения и инференса не предоставляет.
Перспективы масштабирования ИИ зависят от задачи, качества данных, архитектуры модели, вычислительных ресурсов и последствий возможной ошибки. Физические и инженерные ограничения никуда не исчезают: система должна получить входные данные, выполнить вычисления и передать результат. Увеличение модели может изменить её возможности, но само по себе не гарантирует универсальности, надёжности или человеческого понимания. Именно эти параметры, а не общее название технологии, определяют, где ИИ полезен и где его решение требует контроля.