Государством будет управлять искусственный интеллект

Вице-канцлер Министерства экономики по инфотехнологиям Сийм Сиккут. Фото: Sander Ilvest

В Эстонии подготовлен подробный анализ того, как привлечь системы искусственного интеллекта, способные принимать независимые решения, на службу людям и государству. Уже в июне тема поступит на обсуждение правительства. Руководитель государственных IT-программ Сийм Сиккут рассказал Postimees, что такое искусственный интеллект и что теперь будет.

- Давайте проясним понятия – кто или что такое искусственный интеллект?

- Если обычно компьютерным программа отданы точные приказы, то искусственный интеллект учится и развивается в процессе работы. Если, например, дорожной камере необходимо заранее сказать, какой участник дорожного движения – автобус, какой – автомобиль и какой – пешеход, то камера, оснащенная искусственным интеллектом, сама учится, на основании каких признаков различать их. Важно и то, что компьютеры сегодня могут учиться намного больше, быстрее и точнее, чем люди. Мы здесь в Эстонии назвали искусственный интеллект домовым, поскольку человеку он, как и в мифологии, может принести много пользы. Или вреда, если домовой плохо создан. Важно удерживать их на правильном пути и давать им правильную работу.

Компьютер с искусственным интеллектом умеет точнее распознавать очаги рака на рентгеновском снимке, чем до сих пор это делал опытный врач.

- Искусственный интеллект – это нечто такое, что человек пытался сделать по своему образу и подобию? Это что-то накапливающее с нашей помощью опыт и делающее из этого выводы?

- Большая часть сфер применения искусственного интеллекта таковы, что в них и раньше использовались компьютеры. Теперь же компьютеры умеют это делать еще быстрее и точнее и сами предлагают решения, если в рисунке данных есть нечто необычное. Теперь эти программы действительно получат «человеческие способности» - «зрение» и «слух». И что особенно важно – способность понимать увиденное и услышанное. До распознавания чувств технология еще не дошла – искусственный интеллект может выполнять конкретные задания, данные людьми, они по-прежнему являются рабочими инструментами человека.

Почему мы в Эстонии занялись темой искусственного интеллекта – это как раз, что мы видим в искусственном интеллекте мощный рабочий инструмент. С помощью искусственного интеллекта мы умеем делать вещи гораздо лучше, чем раньше. Компьютер с искусственным интеллектом умеет точнее распознавать очаги рака на рентгеновском снимке, чем до сих пор это делал опытный врач.

Машинам не мешают предрассудки и эмоции, они одинаково хорошо «помнят» и далекое прошлое, и то, что произошло секунду назад.

- Много говорилось об опасности роботов, особенно в военной промышленности. У искусственного интеллекта есть воля? Может ли он сделать что-то против воли человека?

- Нет, до этого технология пока не дошла. Скорее что-то может произойти неумышленно. Например, плохо запрограммированный инвестиционный агент может не учесть всех показателей и дать плохие рекомендации по размещению денег. До того, чтобы робот стал создавать себе волю или работать против желания человека, мы еще точно не дошли и не скоро дойдем.

«Дорогой министр финансов, акциз мог бы быть таким», - мог бы сказать такой «домовой».

- Насколько далеко сейчас продвинулась Эстония в развитии искусственного интеллекта? Могли бы мы создать искусственный интеллект для планирования госбюджета и поручить им точно вычислить такую хорошую цифру алкогольного акциза, чтобы и финны ездили к нам за покупками и эстонцы больше не уезжали в Латвию?

- Мы находимся в самом начале пути, как и весь мир. В то же время обращаю внимание, что залогом эстонского цифрового успеха стало не столько создание новой технологии, сколько их умное и быстрое применение. Мы пытаемся достичь того же с искусственным интеллектом.

Что касается алкогольного акциза, искусственный интеллект, который осуществлял бы анализ и делал из него вывод, конечно, можно смастерить. «Дорогой министр финансов, акциз мог бы быть таким», - мог бы сказать такой «домовой». Но решение, естественно, должен был бы принять сам министр. Дело человека – решать, насколько большой искусственный интеллект мы построим – надо ли при расчете алкогольного акциза, например, учитывать социальное измерение, чтобы люди не упились насмерть.

Мы в Министерстве экономики призывали коллег придумать проект, где можно было бы использовать такую умную систему. На сегодняшний день в Эстонии используется 16 «домовых», чтобы сделать государство более эффективным. Будь то робот-автоответчик, чтобы в службе поддержки работало меньше людей, или чтобы Касса по безработице точнее подбирала соискателю подходящую вакансию. Мы хотим, чтобы мяч покатился.

- То есть «домовым» скармливают данные, в том числе о конкретных людях. Чем больше данных о себе я выдаю, тем умнее будут решения относительно меня. Люди смогут выбирать, какие данные о себе они хотят предоставит роботам?

- Строя искусственный интеллект, мы должны исходить из защиты личных данных. Здесь нет и вопроса. Мы обсуждаем это вместе с Министерством юстиции, на каких условиях роботы могут получит доступ к человеческим данным.

На базе портала госуслуг eesti.ee мы строим приложение, где люди сами могли бы выбрать следующие приложения и «домовых», которым они хотят предоставить доступ к своим данным. Каждый будет сам решать, хочет ли он, чтобы «домовой» ему помог.

«Домового» как правило тренируют на анонимных данных. Ясно, что чем больше количество анализируемых данных, тем точнее он делает вывод.

- Насколько государственные базы данных готовы к тому, чтобы роботы стали с ними работать. Насколько они открыты и доступны машинной обработке?

- Честно говоря, ситуация неоднозначная. Прекрасно и отвечает самому высокому мировому уровню то, что мы можем связать собираемые государством данные с помощью x-tee. Но нам предстоит провести еще много работы по приведению данных в порядок – причем и без искусственного интеллекта – чтобы мы могли шире использовать эти данные в работе государства.

- Мы подходим к теме ответственности. Роботы уже умеют принимать простейшие решения – взять хотя бы посылочные роботы, оснащенные «глазами». Но кто ответит, если этот робот, например, проедет по моему пальцу? Ученый, создавший этого робота где-то в подвале?

- Мы пришли к очень четкой констатации факта, что искусственный интеллект – это рабочий инструмент и за посылочного робота отвечает то, кто его отправил – тот, кто доверил доставку посылки роботу. Расчеты между создателем и пользователем – это вопрос их взаимной договоренности.

То же релевантно и в отношении теоретического акцизного робота – если министерство доверило принятие решения искусственному интеллекту, то отвечает за это министерство. Врач отвечает за то, что начал лечение на основе данных, полученных искусственным интеллектом. Postimees отвечает, если его робот, пишущий новости, пишет, что ЧМ по хоккею выиграла Канада, когда в действительности выиграла Финляндия. Мы не видим, что использование искусственного интеллекта должно отличаться от использования любого другого рабочего инструмента.

Большой выигрыш мы получим, если искусственный интеллект будет поддерживать человека в его работе. Если принятое «домовым» решение будет оспорено в суде, суд не будет спорить с искусственным интеллектом, спорить все-таки будут люди. Правовые отношения возникают между людьми, что с того, что один из них использовал рабочий инструмент под названием «Домовой». Их ни в коем случае не стоит бояться, мы просто должны понимать риски и уменьшать их.

- Какие задания или решения человек не должен никогда доверять искусственному интеллекту?

- Решения, которые напрямую касаются здоровья, жизни и благополучия людей. Человек всегда должен сохранять контроль над роботами-убийцами. Мы должны договориться, что мы не будем делать таких роботов или, если будем, то они должны быть под контролем людей.

- У нас в подвалах вообще есть ученые, которые создают «домовых»? Насколько хороша наша система образования, у нас учат созданию систем искусственного интеллекта?

- Мы в самом начале пути. У нас есть ученые и рабочие группы, которые учат машины учиться, но их явно мало. Мы должны обеспечить, чтобы науку о данных, в том числе технологию создания искусственного интеллекта, методы машинного обучения преподавали больше. Для этого государство должно больше вкладывать в преподавание инфотехнологий.

Мы предложили, чтобы были сделаны некоторые конкретные финансовые вливания: например, на 20 мест в докторантуре по созданию искусственного интеллекта. Это запустило бы процесс, чтобы вся остальная система образования могла его догонять. Мы можем довольно много сделать иначе и переосмыслить внутри нынешней системы образования. Короче: мы должны больше инвестировать.

- Государство провело первый подробный анализ «домовых». Что дальше?

- Мы составили такой план действий, чтобы его можно было сразу начать применять. Мы хотим уже в июне отправиться с ним к правительству, а затем уже дать задания каждому государственному ведомству.

Предложения по использованию искусственного интеллекта

Заказать и сделать доступными и повторно используемыми базовые компоненты и инструменты для искусственного интеллекта.

Создать сеть сотрудничества в области науки о данных и искусственного интеллекта в публичном секторе.

Создать и распространить материалы по руководству для запуска и проведения проектов в области искусственного интеллекта (в том числе для их ответственного развития и длительной эксплуатации).

Организовать распространение знаний и обмен опытом – ознакомить с возможностями проектов в области искусственного интеллекта и осуществленными проектами в различных сетях и форматах.

Создать и заполнить должности директоров по данным (chief data officer) хотя бы на уровне министерств, т.е. сфер управления.

С точки зрения жизнеспособности эстонского языка и культуры, важно усилить применение языковых технологий.

Создать возможности для испытания и развития приложений с искусственным интеллектом в публичном секторе.

Запустить мастерские по администрированию данных и создать возможность поддержки для проведения аудита данных в учреждениях.

Создать и испытать #bürokrat, т.е. концепцию взаимодействия искусственных интеллектов и виртуального персонального ассистента.

В условиях финансирования проектов по развитию искусственного интеллекта установить технические требования, чтобы обеспечить их долгую эксплуатацию.

Обеспечить в рамках мер по финансированию развития э-государства гибкие и достаточные по объему возможности финансирования опытных проектов, в том числе проектов по развитию искусственного интеллекта.