По мнению ученого, математика Евгения Палкина, причины кроются в образовании, неопределенности понятий и «надеждах на чудо».

Константин Корепанов, редактор, Москва, e-xecutive.ru


Евгений Алексеевич Палкин

Евгений Алексеевич Палкин

Восстание машин откладывается. В беседе с Executive.ru профессор, кандидат физико-математических наук Евгения Палкина – проректор по научной работе Российского нового университета – высказал предостережение: главная опасность для отечественного бизнеса при внедрении искусственного интеллекта в свою работу – это не мифическая война со сверхразумом, а напротив – катастрофическое отставание даже от ближайших соседей.

Что нужно делать прямо сейчас, если вы хотите, чтобы ваш бизнес выжил и успешно конкурировал через какие-то пять-десять лет? Да, ученый уверен: самообучающиеся машины, нейронные сети и анализ big data плотно войдут в бизнес-инструментарий максимум за это время. И те, кто не начнет готовиться к этому прямо сейчас, рискуют оказаться на обочине прогресса.

Executive.ru: Что такое искусственный интеллект?

Евгений Палкин: К этому явлению нет единого подхода. По логике вещей, искусственный интеллект должен быть сравним с человеческим, естественным интеллектом. Но тогда возникает вопрос, что такое, «искусственность» – она в каком плане здесь понимается?

Во-первых, это – совершенно другая элементная база, на основе которой возникает система, способная, условно скажем, мыслить, как человек. Во-вторых, если возникает система, которая мыслит, но не как человек – имеем ли мы право называть ее интеллектом? С чем сравнивать?

Я основываюсь на том, что человек отличается от природы тем, что имеет человеческое, подчеркиваю, сознание. И интеллект, который мы обычно имеем в виду, это – человеческий интеллект, основанный на человеческом же сознании. И все свойства этого интеллекта присущи именно человеку.

Поэтому, когда мы говорим об искусственном, мы должны точно определить, о чем идет речь. Первый вариант – искусственный интеллект реально представляющий просто систему обработки большого количества данных. С использованием современных компьютеров, квантовых компьютеров в перспективе и всего что угодно. Является это интеллектом или нет? По моему представлению – нет. Это просто счетная машина высокой производительности.

Можно ли сделать на базе счетной машины высокой производительности искусственный интеллект – вопрос спорный. Можно сделать нейронные системы, которые являются основой для самообучающихся систем, в том числе машин, которые могут адаптивно реагировать на изменения внешних условий и внешних данных. Является это интеллектом или основой для какого-то интеллекта? Это тоже спорный вопрос, потому что мы опять сравниваем машину с человеком.

Сознание человека не является стационарным прибором. Оно постоянно находится в динамике, это развивающаяся система? и вот это развитие есть суть системы. Вы никогда не вспомните информацию, которой вы обладаете, в том варианте, в котором она к вам пришла. И второй раз, обращаясь к ней, вы ее вспомните опять иначе, чем вспомнили первый раз и любые другие разы. У вас всегда будут, условно назовем, «дефекты», хотя непонятно, плохо это или хорошо.

Компьютер действует ровно наоборот. Он как раз нацелен на то, чтобы информация, которая в нем заложена один раз, сохранялась без изменений. Опять же – за исключением тех же нейронных сетей. Там информация, которая уже есть, сохраняется, а новая добавляется. Старая информация остается, а у человека забывается. И принцип действия поэтому совсем иной.

Одно из следствий того, что мы рассматриваем интеллект человека как процесс, а не возможность действия, состоит в том, что человек постоянно меняет это действие в соответствие с тем, какие процессы у него происходят в реальном режиме в головном мозге от рождения до смерти. И процесс естественного изменения организма человека влияет на то, как он думает, о чем он думает, и что он думает. У компьютера этого быть не может, он не стареет, если только задачу старения не ввести искусственно.

Поэтому, давайте четко определим, исходя из того, что есть такая разница, о каком искусственном интеллекте мы будем говорить применительно к тем проблемам, которые могут возникнуть в бизнесе.

Executive.ru: Речь идет о системах обработки больших данных, включая те же самые – нейронные сети.

Е. П.: Сейчас большинство запросов, связанных с банковским обслуживанием, в том же «Сбербанке» обрабатываются компьютерным способом: отвечают вам компьютеры. Большие базы данных и системы их обработки позволяют снять рутинную работу. Скажем, операторы банковских офисов, чья работа связана с заполнением какой-нибудь карточки или с типичными проводками, а не общением между людьми, безусловно будут заменены компьютерами.

Уже хорошо известен перечень специальностей, которые выполняют рутинную работу. Для них определенный риск есть, это будет связано с тем, что их рутинная работа будет заменена на работу вот таких, условно назовем, систем искусственного интеллекта, которые будут принимать решения в рутинных ситуациях. Принятие решений в рутинной ситуации  это просто набор правил и возможность его перебора, что помогает найти соответствие между входными данными и правилами обработки этих входных данных.

Если ИИ начал обучаться, решения будет не понять

Е. П.: Попытка переложить на машину развивающийся алгоритм в этих вопросах тут же сталкивается с проблемами осознания этих изменений со стороны человека. Давайте рассмотрим тему на примере дорожного движения. Говорят, например, что инспекторы ГИБДД  тоже умирающая профессия, потому что есть камеры, есть Правила дорожного движения. Не нарушаешь  ездишь, нарушаешь  получаешь штраф. Автоматические камеры сейчас все это быстро отслеживают и рассылают письма. Все замечательно, но это  не искусственный интеллект.

А теперь представьте, что у нас будет включена машина искусственного интеллекта, которая будет изменять правила игры в соответствии, ну, хотя бы с принципом минимизации риска для человеческой жизни. Это значит, она сможет изменять ПДД. Кто возьмет ответственность за изменение со стороны ИИ уже принятых правил, утвержденных соответствующими инстанциями. Разработчик? Начальство ГИБДД? Какая-нибудь верховная власть?

Сейчас законодательство вырабатывается, грубо говоря, эмпирически человеком  и поэтому имеет все недостатки этой самой эмпирики: несоответствие и отставание от реальных ситуаций в жизни, но оно принимается обществом опытным путем. То же самое в этике. Этические нормы условны, но они тоже принимаются обществом, и опять же, в среднем, удовлетворяют всех.

Допустим, машина примет решение по такому критерию как снятие риска для жизни человека. Теперь представим: автобус с людьми, и женщина с ребенком на его пути, за рулем компьютер. При торможении вы можете получить кучу жертв в автобусе. Что делать? Какое решение будет верным? Вопрос не этический.

Будут проанализированы установки, то есть те критерии, которые будут заложены в программе. Я не знаю, какие. Вы знаете, что, например, машинист при экстренном торможении имеет право сбить человека, который находится на путях, чтобы не повредить тех, кто находится в составе. Будут ли такие правила у этой машины? Пока такого рода правила вырабатываются людьми, они берут на себя ответственность за принятие подобных правил. Если это будет делать машина, кто будет брать на себя ответственность за принятие решений машиной?

Executive.ru: Вы можете привести примеры такого рода неопределенности в другой сфере?

Е. П.: Есть примеры в банковской системе. Одобрение различных заявок по кредитованию либо открытию счета переложили на искусственный интеллект. В результате часть обращающихся получает отказ, но никто не может объяснить, включая самих банковских работников, почему.

Мы сможем объяснить, почему искусственный интеллект принял то или иное решение, когда правила «игры» ему заданы, и он их не менял. Он должен был просто найти оптимальное решение, соответствующее ряду различных признаков. Но если он уже начал обучаться, то вы никогда не ответите на вопрос, почему компьютер принял то или иное решение.

Если нужны специалисты, нужно их готовить

Executive.ru: На конференции Russian Tech Week Юрий Сирота – руководитель дирекции ИИ и анализа данных банка «Уралсиб» сказал, что у них самая большая проблема сейчас в том, что они не могут найти сотрудников, которые имели бы математический склад ума и образование, но и могли применять эти знания именно в разрезе бизнеса. Это важная проблема?

Е. П.: Первая часть, взаимодействие с интерфейсом  это проблема, грубо говоря, становления. Есть такая наука  эргономика, которая говорит, что для того, чтобы человек комфортно работал и эффективно работал, нужно в соответствии с его возможностями устраивать его рабочее место. В том числе интерфейс.

Если вы помните историю развития вообще компьютерной техники, то в начале интерфейс был совершенно ужасен. Пользователи вычислительных машин затрачивали много времени, чтобы общаться с этой машиной. Сейчас у нас очень удобные интерфейсы. Думаю, то же самое произойдет с большими данными. Да, сейчас тяжело, потому что мы делаем только первые шаги по использованию программ обработки больших данных и только специалист может спокойно работать с ними.

Недавно я участвовал в вебинаре по организации учета научной деятельности. Нам предлагают некую программу для обработки данных. Пользователь более-менее представляет функционал, который заложен в ней, но рассчитывать, что она сразу начнет использовать эту программу  не стоит. Однако, во-первых, можно обучиться работе с ее интерфейсом. Во-вторых, разработчики будут стремиться улучшить этот интерфейс и сделать его удобным. Поэтому здесь пугаться не стоит, это процесс естественный.

Всегда есть некоторое число людей, которые умеют работать со сложным интерфейсам, но большинству нужен более простой и удобный интерфейс. Пользователь не будет знать, что там происходит с большим объемом данных, как они обрабатываются, но основные кнопки, которые ему нужны, там появятся, он будет с ними работать не задумываясь.

Другой совершенно вопрос  это вопрос образования, которое сегодня дают наши вузы. Мы с вами уже обсудили, что уйдут рутинные функции человека, которые идут на уровне помощника автомата  наладить конвейер, закрутить два-три болта или, например, сортировать мусор.

Но останутся функции, которые сейчас потребовались «Уралсибу»  то есть творческие функции, связанные с пониманием сложных задач. Задача взаимодействия с большим объемом данных является очень сложна, человеку трудно к ней адаптироваться. Мы должны людей настраивать не рутинные операции настраивать, а учить их думать, чтобы они могли решать сложные задачи.

К сожалению, сейчас система образования, с моей точки зрения, нацелена ровно на обратное. Она унифицируется как в начальной, так и в высшей школе. Везде вводятся стандарты, сплошная отчетность, тогда как у преподавателя должны быть совершенно иные цели. Он должен научить студента решать разноплановые задачи и разрабатывать у него мыслительный процесс так, чтобы тот умел думать,  это как-то уходит на второй план. Учителя сейчас все  и в высшей, и средней школе  в большей степени заняты различными формальными делами. Вот эта формализация деятельности и снижает процент людей, которые возможны для использования в сложных задачах. Поэтому и возникает дефицит креативных кадров.

Executive.ru: Может ли бизнес повлиять на этот процесс?

Е. П.: Бизнес стыдливо уходит от финансирования образования. Он, насколько мне представляется, считает, что образование  это дело государства. Со времен Советского Союза оно было бесплатное, и бизнес полагает, что ему хватит имеющихся выпускников. Но, как показывает пример «Уралсиба», уже не хватает.

На самом деле бесплатного образования мало: сейчас уже большая часть образования платна, даже в государственных вузах. Пока образование в России дешевое, потому что людям нечем платить, студенты платят из своего или родительского кармана, а бизнес в этом участия не принимает. Вместо того, чтобы вместе с государством заниматься финансированием образования и подготовкой кадров, бизнесмены, все еще надеются, что им удастся урвать из этого «пирога выпускников» свой кусок. Но урвать с каждым годом становится сложнее, потому что за этот кусок борются не только наши банки, корпорации и бизнес, но и зарубежные  кусок-то хороший: государственный, бесплатный.

Государство сейчас, слава богу, начало применять меры. Со следующего года будет так называемый целевой набор, как он будет работать  пока не знаю, но он уже анонсирован. За государственные деньги студенты будут распределяться, как и раньше, по определенным предприятиям, которые заинтересованы.

С каждым годом все сложнее получить именно то образование, о котором мечтает «Уралсиб». То есть, чтобы люди имели и знания, и навыки в работе со знаниями, да еще и творческое мышление. Это серьезная проблема.

Executive.ru: Насколько глубокий интерес проявляет российский бизнес к ИИ? Готов ли он финансировать разработки в этой области?

Е. П.: Интерес, конечно, есть, но денег пока не хватает даже на разработку тех самых систем, которые снимут рутинную работу. Вот китайцы  молодцы, у них эта работа поставлена на государственную платформу, внедрение информационных систем в массы идет полным ходом, рутинные работы потихоньку снимаются. Хотя казалось бы, там-то как раз народу много  взял, поставил людей всех за конвейер и вперед с песней.

Но китайцы понимают, что скорость обмена информацией растет, причем, по экспоненте, а не линейно. По этой причине они на этот путь ступили. У нас понимание есть, а денег не хватает, поэтому мы начинаем катастрофически отставать. Примеров масса, в Китае вопрос идентификации личности давно решен, поэтому вопросы со всякими штрафами уже решаются автоматически.

Executive.ru: Есть ли выход? Если бизнес понимает, что ИИ ему нужен, хотя бы для решения рутинных задач, а денег на разработку нет, на что остается надеяться бизнесу? На то, что талантливый выпускник российского вуза предложит недорогое решение?

Е. П.: Конечно, бизнес был бы рад получить халявное решение. Чудеса бывают, нашу страну часто спасало чудо. Но…

Создание решения  дело достаточно долгое. Если решение нужно прямо сейчас, то кроме как купить его, других вариантов нет. Либо можно продолжать надеяться на чудо.

Если бизнесмен способен планировать свою деятельность, ну, скажем, лет на пять, и ему нужно поэтапно вводить искусственный интеллект в обиход своей компании, то наверное можно обойтись собственными силами. Начинать нужно с подбора кадров на стадии подготовки. То есть надо зайти в те вузы, где есть такого рода программы подготовки, сказать: «Мы вам доплатим, если вы отберете пятерку лучших студентов и проведете по таким дисциплинам, которые нам нужны на выходе».

Через три года компания получит специалистов, через год они поймут ее задачи и еще через год решат. И через пять лет вы получите собственную интеллектуальную систему в дешевом варианте. Хотя не в дешевом, а просто растянутом по времени. Но за все надо платить.

До «будущего» осталось 5-10 лет

Executive.ru: А насколько распространены в России аутсорсинговые компании по разработке решений в области ИИ?

Е. П.: Такие компании есть. Их меньше, чем, например, в Индии. Но речь же идет не о разработке продуктов, а о решении конкретной проблемы конкретной компании  это совсем другая вещь. Аутсорсинг по решению проблем  это какие-то сервисы по типу управляющей или консалтинговой компании. Такой рынок в России пока, к сожалению, не развит, а он-то как раз нам и нужен.

К аутсорсингу по решению проблем обычно прибегают тогда, когда уже дальше некуда, когда сами решить свои проблемы уже точно не могут. Ведь каждый человек считает, что он задачу сам сформулировал, и сам же ее решит. И довериться кому-то на сторону да еще деньги за это платить как-то странно, в конце концов мы ради этого живем, чтобы собственные проблемы решать. Поэтому аутсорсинг по решению проблем, по управлению проектами подключается на стадии, когда проект уже практически безнадежен.

Однако сформулировать задачу  это уже половина решения. Когда вы знаете, как решать задачу, то можно запросить решение и в Индии, вам там все сделают дешевле. Можно найти исполнителя и в России. Но скорее всего в этом случае речь идет не об ИИ, а о конкретной программе для решения конкретной проблемы.

Executive.ru: Как скоро искусственный интеллект, обработка больших данных, нейронные сети получат распространение в российском бизнесе?

Е. П.: Думаю, в течение ближайших пяти, максимум десяти лет. В банковской сфере принятие решений по кредитованию уже полностью отдано на «плечи» машины. В управленческой сфере тоже много интересного произойдет. Принятие решений в менеджменте скоро будет основываться по крайней мере на анализе большого количества данных, а не на том, «как моя левая пятка захотела».

Конечно, в России ключевые решения все равно будет принимать человек, а не машина. Поэтому ИИ, в том виде, который мы обсуждаем сегодня, будет просто вспомогательной цепочкой, которая даст дополнительную объективную информацию. Для бизнеса, в том числе.

Executive.ru: И для этой цепочки опять же понадобятся другие специалисты – аналитики?

Е. П.: Конечно. Конечно. Вот об этом я и говорю. Их надо готовить уже сейчас.

Executive.ru: Если «будущее» наступит уже через пять лет, получается уже завтра надо начинать искать специалистов?

Е. П.: Да, уже завтра. Не искать, а готовить. Поставить задачу для высшего образования. Нужно готовить не менеджеров, знающих сегодняшние реальности экономики, а аналитиков. Выпускники должны знать возможные проблемы экономики и уметь их решать. Их надо учить тому, как завтра решать проблемы, возникающие сегодня. На самом деле это все можно сделать. Но надо делать быстро, а у нас все получается очень неповоротливо.