Наиболее сложные формы машинного обучения предполагают глубокое обучение, или построение моделей нейронных сетей, имеющих множество уровней функций и переменных, предсказывающих результаты. В таких моделях могут быть тысячи функций, которые обеспечиваются более быстрой работой современных компьютерных архитектур. В отличие от более ранних форм статистического анализа, каждая функция модели глубокого обучения, как правило, мало что значит для человека. В связи с этим модели очень трудно или невозможно интерпретировать. В опросе Deloitte 34 % компаний использовали технологии глубокого обучения.
Модели глубокого обучения прогнозируют и классифицируют результаты с применением техники обратного распространения ошибки[13]. Именно эта технология ИИ стоит за целым рядом недавних прорывов – от победы над человеком при игре в го до классификации изображений в интернете. Отцом глубокого обучения часто называют Джеффри Хинтона из Университета Торонто и компании Google – и отчасти как раз из-за ранней работы над техникой обратного распространения ошибки.
В машинном обучении задействуется более сотни возможных алгоритмов, и большинство из них весьма причудливы. Спектр этих алгоритмов весьма широк и охватывает все – от повышения градиента (метода построения моделей, которые устраняют ошибки предыдущих моделей, тем самым повышая их способность к прогнозированию и классификации) до случайных лесов (моделей, которые представляют собой ансамбль моделей дерева принятия решений). Все чаще программное обеспечение (включая DataRobot, SAS и AutoML от Google) позволяет автоматизировать построение моделей машинного обучения, в ходе которого происходит апробация различных алгоритмов с целью выявить наиболее удачный[14]. Как только обнаруживается лучшая модель для прогнозирования или классификации тренировочных данных, ее используют для прогнозирования и классификации новых данных (иногда это называют скорингом).
Однако важен не только используемый алгоритм, но и принцип обучения создаваемых моделей. Модели обучения с учителем (на сегодняшний день наиболее распространенные в бизнесе) учатся на основе набора тренировочных данных с маркированным результатом. Например, модель машинного обучения, которая пытается предсказать мошенничество в банке, необходимо учить на системе, где мошенничество в некоторых случаях было однозначно установлено. Это непросто, поскольку частота мошенничества может составлять 1 случай на 100 000, и порой эту проблему называют проблемой несбалансированности классов.
Обучение с учителем очень похоже на традиционный аналитический метод регрессионного анализа, который используется в модели оценки. Цель регрессионного анализа заключается в том, чтобы создать модель, предсказывающую известный результат, используя набор входных переменных с известными значениями, которые могут быть связаны с этим результатом. Когда модель разработана, ее можно использовать для предсказания неизвестного результата на основе известных значений тех же входных переменных. Например, можно разработать регрессионную модель, предсказывающую вероятность заболевания диабетом в зависимости от возраста пациента, уровня его физической активности, количества потребляемых калорий и индекса массы тела. При разработке этой модели мы будем ориентироваться на пациентов, которые уже заболели или не заболели диабетом, используя все доступные данные для построения регрессионной модели. Обнаружив хорошую предсказательную регрессионную модель, мы сможем использовать ее на новом наборе данных, чтобы предсказать неизвестный результат – вероятность заболевания диабетом в зависимости от определенных значений входных переменных. Это называется скорингом (как в регрессионном анализе, так и в машинном обучении).
Регрессионный процесс напоминает машинное обучение с учителем, но имеет ряд особенностей:
● В машинном обучении данные, используемые для разработки (тренировки) модели, называются тренировочными данными и могут представлять собой подмножество данных, необходимых исключительно для тренировки системы.
● В машинном обучении тренировочная модель часто утверждается при помощи другого подмножества данных, для которого известен подлежащий предсказанию результат.
● В регрессионном анализе может и не возникнуть желание использовать модель для предсказания неизвестных результатов, тогда как в машинном обучении наличие этого желания подразумевается.
● В машинном обучении может использоваться множество различных алгоритмов, которые не ограничиваются простым регрессионным анализом.
Модели обучения без учителя, как правило, более сложны в разработке. Они распознают закономерности в данных, которые не маркированы заранее и для которых неизвестен результат. Третий способ обучения, обучение с подкреплением, предполагает, что система машинного обучения имеет определенную цель и каждое продвижение к этой цели вознаграждается. Такой способ весьма полезен в играх, однако он также требует огромного объема данных (и из-за этого порой теряет практичность)[15]. Важно отметить, что модели машинного обучения с учителем обычно не учатся непрерывно: они учатся на основе набора тренировочных данных, а затем продолжают использовать ту же модель, если только не задействуется новый набор тренировочных данных, на основе которого обучаются новые модели.
Модели машинного обучения опираются на статистику. Оценить их растущую ценность можно в сравнении с традиционной аналитикой. Как правило, они точнее традиционных «кустарных» аналитических моделей, основанных на человеческих предположениях и регрессионном анализе, но при этом они сложнее и хуже поддаются интерпретации. Автоматизированные модели машинного обучения могут создаваться намного быстрее и описывать более детализированные наборы данных, чем в случае с традиционным статистическим анализом. При наличии необходимого объема данных для обучения модели глубокого обучения очень хорошо справляются с такими задачами, как распознавание изображений и голоса. Они работают гораздо лучше, чем ранние автоматизированные системы для решения этих задач, а в некоторых сферах их возможности уже сравнимы с человеческими или даже превосходят их.
Обработка естественного языка (ОЕЯ)
С 1950-х гг. перед исследователями ИИ стояла цель научить машину распознавать язык человека. В эту сферу, называемую обработкой естественного языка, входят такие варианты использования технологий, как распознавание речи, текстовый анализ, перевод, генерация текста и решение других языковых задач. ОЕЯ использовали 53 % компаний, участвовавших в опросе об осведомленности о когнитивных технологиях. Есть два основных подхода к ОЕЯ – статистический и семантический. Статистическая ОЕЯ основана на машинном обучении и сегодня совершенствуется быстрее семантической. Она требует большого корпуса, или совокупности, текстов, на которых учится. Например, для перевода требуется большой объем переведенных текстов, статистически анализируя которые система узнает, что испанское и португальское слово amor находится в тесной статистической взаимосвязи с английским словом love. Этот метод использует «грубую силу», однако часто он довольно эффективен.
До последнего десятилетия внимание уделялось исключительно семантической ОЕЯ, и она демонстрирует умеренную эффективность, если система удачно натренирована на распознавание слов, синтаксиса и концептуальных связей. Однако обучение языку и инженерия знаний (которая часто предполагает создание графа знаний в определенной области) требуют много времени и сил. Для этого необходима разработка онтологий или моделей отношений между словами и фразами. Хотя создавать семантические модели ОЕЯ нелегко, сегодня этим занимаются несколько систем интеллектуальных агентов.
