Европарламент решил радикально ограничить в ЕС применение и разработку систем, основанных на искусственном интеллекте (ИИ). Зачем это делается?
На вопросы Rus.Postimees ответил в прямом эфире эксперт в сфере инфотехнологий и области образования, в прошлом – топ-менеджер компании Nortal Олег Швайковский.
Выдержки из беседы:
– Нужен ли ЕС закон о защите от рисков, связанных с развитием ИИ?
– Закон – это надводная часть айсберга. Будет дан сигнал к тому, что необходимо задуматься над тем, в какую сторону развивается искусственный интеллект.
Не нужно питать иллюзий. Искусственный интеллект сегодня уже учится сам. Он учится быстрее, чем человек. А мы играем роль катализатора.
– Настало ли время ограничивать в правах искусственный интеллект?
– Пора начать регулировать направление развития ИИ и наше отношение к этому процессу. Ограничивать ИИ-машину бессмысленно. Эта машина уже умнее нас.
Человек - больше не самое умное создание на этой планете.
Время, когда десятки тысяч лет человек наслаждался ролью самого умного существа на свете, безвозвратно ушло.
– Стоить ли защищаться от ИИ?
– Не столько защищаться, сколько менять свое отношение. Машина обучается как ребенок: выстраивает ассоциативные связи, судит по делам, а не по словам и т.д. Не случайно в недрах FB было обнаружено несколько чат-ботов, которые начали общаться между собой, изобретя свой собственный язык, причем постоянно развивающийся. Пятилетний этап развития ребенка они прошли за 5-6 недель.
ИИ начал развивать такие понятия как ценности, эмоции.
Он развивается параллельно тому, как развиваемся мы. В этом не будет ничего страшного при условии, что человеку удастся задать ИИ правильную систему координат и ценностей.
– Как же создать правильную систему координат и ценностей?
– Мы пока еще находимся в роли родителей. Ценности – это то, что мы ему можем дать. О того, будет ли ИИ различать, что такое хорошо и что такое плохо, зависит очень многое.
– Оправданно ли применение ИИ в военной области?
– Не считаю это оправданным. ИИ в военной сфере зависит от того, на чьей он стороне – хороших или плохих парней.
Другое дело, что все границы размыты. Если взять арабо-израильский конфликт, то обе стороны конфликта воспитывают своих детей на том, что мы – хорошие парни, а они плохие.
Лицензирование способов обучения и развития ИИ – это то, к чему необходимо прийти в будущем.
– В контексте запрета систем, влияющих на подсознание людей, что будет с целевой рекламой в FB и Google?
– Думаю, что такая реклама подпадет под ограничения. Способы влияния контекстной рекламы на человека, цепляющие на крючок и влекущие за собой – это беспрецедентный уровень. Эффект от такого интерактивного взаимодействия гораздо выше, чем от телевизора или радио. Совершенно точно эту сферу нужно регулировать.
– Чем опасен ИИ в распознавании лиц в реальном времени?
– Злоупотреблениями. Если в связке «человек – машина» хоть в один элемент добавить слово «плохой», то как результат мы получим слово «плохой».
Только когда машина будет способна сама разбирать, что такое хорошо и что такое плохо, мы получим симбиоз человека и машины, который будет всем в помощь.
Если безумный потенциал машины направить в правильное русло, то появятся важные решения.
Вакцину от коронавируса можно будет создать не за полтора года, а за полтора дня или за полтора часа.
Станет понятно, как бороться с глобальным потеплением.
– Внедрится ли ИИ в распределение жилищных кредитов и соцпособий? Какие риски здесь кроются?
– Надеюсь, что внедрится. Дискриминации можно избежать, если озаботиться вопросом ценностей.
– Внедрится ли ИИ в управление критически важной инфраструктурой: энергетической, фармацевтической? Например, в процесс одобрения лекарств?
– Уже внедряется. В этом могут крыться определенные опасности, но опыт показывает, что количество ошибок, совершаемых машиной – гораздо меньше того количества ошибок, которые совершает человек. Взять хотя бы процесс установки диагноза. Машина здесь более внимательна, чем человек.
– Можно ли отдать все на откуп ИИ?
– Ни в ком случае нельзя. Мы должны контролировать этот процесс. Однако сотрудничество с ИИ – это неизбежность. Скорость обработки данных искусственным интеллектом несопоставима со скоростью обработки данных человеческим мозгом.
– Насколько распространение ИИ повлияет на трудовую занятость и снизит количество рабочих мест?
– Снижение количества рабочих мест уже происходит. Дети, рожденные в этом году, по достижении совершеннолетия уже не будут изучать такую дисциплину, как управление автомобилем. Я в этом убежден. Через 30 лет это будет таким же экзотическим навыком, как умение скакать на лошади. Сегодняшние дети будут ездить и летать на самоуправляемых машинах.
Произойдёт перераспределение того, куда мы будем вкладывать свою энергию. Надеюсь, что люди не станут безработными, просто им придется заниматься вещами, которые сегодня сложно представить. Мы будем жить по-другому и заниматься другими вещами.
И хотя сейчас в шахтах по-прежнему работают люди, а роботы пишут стихи, вопреки прогнозам писателей-фантастов, которые предсказывали всё наоборот, надеюсь, что это временно.
– Обоснованы ли опасения, что после принятия закона ряд компаний покинет рынок ЕС и отзовет с него свои ИИ-продукты?
– Думаю, что никто ничего не отзовет. ЕС – это крупный рынок и один из законодателей мод. Европа играет положительную роль именно благодаря тому, что пытается взять все эти процессы под контроль.
Подробнее в повторе!
Материал подготовлен в рамках проекта сотрудничества Rus.Postimees с представительством Еврокомиссии в Эстонии.
:format(webp)/nginx/o/2023/07/24/15478141t1h2105.jpg)
/nginx/o/2016/10/12/5949557t1h7d36.jpg)