МЕЭЛИС ОЙДСАЛУ ⟩ Кто на самом деле будет управлять Эстонией через пять лет?

Меэлис Ойдсалу. Фото: Madis Veltman

• Риски использования алгоритмов в государственном секторе уже начали проявляться
• Современным надзорным органам требуется технологическая поддержка
• В ближайшие годы замена чиновников машинами не рекомендуется

Лучшее средство для предотвращения алгократии - власти непрозрачных алгоритмов, угрожающей обществу, - это интерес к широко доступным приложениям искусственного интеллекта. Тогда мы сможем быть более требовательными и к бюрократам, пишет редактор Меэлис Ойдсалу.

Профессор права Ирландского национального университета в Голуэе Джон Данахер еще в 2016 году, то есть за шесть лет до того, как генеративный ИИ (ChatGPT, Midjourney, Grok) стал широко доступен в 2022 году, опубликовал статью об угрозе алгократии - ситуации, когда власть в обществе смещается к непрозрачным алгоритмам.

Данахер утверждает, что алгократия проблематична, поскольку публичные решения, основанные на рекомендациях алгоритмов, принимаются в рамках процедур, которые граждане не понимают и не контролируют, а потому их трудно оспорить.

В качестве примера он приводит практики, основанные на анализе больших данных, такие как предсказательные модели риска в судебной системе и полиции. В США, например, суды использовали алгоритм COMPAS для вынесения приговоров, который позже оказался расово предвзятым. Проблема заключалась не только в несправедливости алгоритма, но и в том, что судьи слепо доверяли машинным рекомендациям, не имея возможности обосновать свои решения.

Издание Politico в 2022 году писало о скандале в налоговой службе Нидерландов, когда из-за ошибки алгоритма многие невиновные люди оказались под подозрением в мошенничестве. Чтобы снизить число гибели при пожарах, в Эстонии было бы целесообразно направлять спасателей к группе наибольшего риска - одиноким мужчинам, склонным к алкоголизму. Однако такая практика может противоречить новому регламенту ЕС об ИИ (запрещающему социальное профилирование), который вступит в силу в Эстонии к 2027 году.

Профессор государственного управления Лейденского университета Мадалина Бусуйок также указывает на проблемы делегирования полномочий алгоритмам. Если, например, проект постановления министра был подготовлен на основе рекомендаций алгоритма, то формально министр остается ответственным за решение, но на практике он может не понимать, как именно алгоритм пришел к своему выводу.

К тому же многие алгоритмы, используемые правительствами, разрабатываются частными компаниями и защищены коммерческой тайной. Бусуйок ссылается на случай в США, когда суд отказался раскрыть логику оценки риска алгоритма, сославшись на интеллектуальную собственность разработчика. В результате были защищены интересы компании, но ущемлены права осужденного на справедливое судебное разбирательство.

По ее мнению, традиционные надзорные органы, такие как Государственный контроль, могут оказаться неспособными эффективно контролировать системы ИИ из-за нехватки навыков и ресурсов, что создаст потребность в новых аудиторах алгоритмов.

Именно для предотвращения алгократии в ближайшие годы не стоит ожидать значительного сокращения числа чиновников за счет использования ИИ - по крайней мере, на переходном этапе это не будет в интересах граждан.

Тем не менее, Государственная канцелярия Эстонии надеется, что искусственный интеллект сможет помочь в решении проблемы длительных сроков рассмотрения дел в судах, которые уже не раз подвергались критике. В настоящее время краты - приложения на базе ИИ - выполняют в стране скорее мелкие задачи, а их более широкое использование ожидается примерно через пять лет.

Решение, предложенное Данахером, не в отказе от ИИ, а в требовательной адаптации: он призывает к повышению прозрачности алгоритмов, сохранению права людей принимать критически важные решения и обучению широкой общественности принципам работы алгоритмов. Стоит проявлять интерес к ИИ и лично тестировать его решения - тогда мы сможем быть более требовательными и к чиновникам.