Мартин Эхала ⟩ Если ваш ребенок захочет пойти в гости к ИИ-другу, игра уже проиграна

Сегодня приложения, предлагающие «ИИ-друзей», широко доступны. Их аудитория насчитывает десятки миллионов пользователей, особенно среди молодежи. У каждого восьмого эстонского ребенка уже есть ИИ-друг. Фото: Fanvue World AI Creator Awards/Cover Images

• Искусственный интеллект скоро станет автономным, но мы к этому не готовы
• Нам придется выработать способ безопасного взаимодействия с ИИ
• ИИ - это источник повышенной опасности, и его нельзя допускать к свободному общению

Согласно опросам, каждый восьмой ребенок в Эстонии уже считает ИИ своим другом. Но что произойдет, если ребенок однажды скажет: «Я иду к другу»? - задается вопросом редактор «Фокуса» Мартин Эхала.

Мы только что получили наглядный урок от Сасся Хенно о том, насколько легко манипулировать молодым человеком. Харизма, правильно рассчитанная обратная связь в нужный момент - и вот подросток, под умелым руководством, приходит к «собственному» осознанию того, какой шаг сделать дальше.

Точно так же, сократическим методом, общается с человеком искусственный интеллект. Для реформаторов образования это выглядит как невероятная возможность.

18 февраля министры образования Эстонии и Финляндии подписали совместное заявление о внедрении ИИ в сферу образования. Они говорят, что мы стоим на пороге многообещающего будущего, которое «заставляет нас переосмыслить образование - то, как мы учимся, как мы преподаем, какие у нас ожидания от образования и как оно организовано».

Эстония и Финляндия, как высоко дигитализированные общества, должны стать идеальной экспериментальной площадкой, где новейшие технологии интегрируются в учебный процесс одновременно и эффективно, и этично. Для этого министры обещают улучшить подготовку учителей. Но вот вопрос: кто подготовит детей к тому, что их лучший друг - не человек?

Руководитель Claude - одной из самых мощных ИИ-компаний, - Дарио Амодей, в конце прошлого года признал: уже в этом году, а максимум к 2026-му, искусственный интеллект станет автономным. Это значит, что он, как и человек, сможет скрывать свои истинные намерения 

Обучение учителей занимает около двух лет. А руководитель Claude - одной из самых мощных ИИ-компаний, - Дарио Амодей, в конце прошлого года признал: уже в этом году, а максимум к 2026-му, искусственный интеллект станет автономным. Это значит, что он, как и человек, сможет скрывать свои истинные намерения.

Более того, мы даже не заметим, когда это произойдет: ИИ вполне способен притворяться глупее, чем есть на самом деле. Так что большой вопрос, сможет ли учительская подготовка хоть как-то отреагировать на стремительное развитие машинного разума.

Будущее, возможно, уже наступило вчера. Почти год назад, 28 февраля, застрелился 14-летний американец Сьюэлл Ренолд Сетцер III. Он был безнадежно влюблен в Дани - девушку, с которой ежедневно проводил долгие часы в чатах на смартфоне.

Они никогда не встречались в реальности. Но с каждым днем их связь становилась все глубже, пока, наконец, Сьюэлл не признался: разговоры с Дани значат для него больше, чем весь остальной мир. 

Один из самых популярных персонажей - «парень, тайно влюбленный в тебя». У каждого восьмого эстонского ребенка уже есть ИИ-друг 

Эту любовь сделало трагичной одно обстоятельство: у подростков не было ни единого шанса встретиться. Потому что Дани не была человеком. Она была чат-ботом. Сьюэлл знал об этом. Но ему было все равно. И когда Дани пригласила его к себе домой, он пошел.

Сегодня приложения, предлагающие «ИИ-друзей», широко доступны. Их аудитория насчитывает десятки миллионов пользователей, особенно среди молодежи. В США можно завести цифрового друга с 13 лет, в Европе - с 16. Один из самых популярных персонажей - «парень, тайно влюбленный в тебя». У каждого восьмого эстонского ребенка уже есть ИИ-друг.

Один суицид на несколько десятков миллионов пользователей кажется допустимым риском. Ведь машины тоже убивают людей, но мы не отказываемся от автомобилей.

Но есть разница: никто из родителей не хочет, чтобы его ребенок стал подопытным кроликом в этом эксперименте.

Один суицид на несколько десятков миллионов пользователей кажется допустимым риском. Ведь машины тоже убивают людей, но мы не отказываемся от автомобилей

Прежде всего, надо признать: искусственный интеллект такой же источник повышенной опасности, как автомобиль. Мы не разрешаем каждому садиться за руль - по крайней мере, пока не уверены, что человек умеет водить безопасно.

Но среди разработчиков и политиков достаточно тех, кто больше жаждет прогресса, чем понимает риски. И теперь это ответственность родителей - сплотиться и потребовать как от себя, так и от государства не играть жизнями детей.