Искусственный интеллект Эстонии не светит, но «Терминатор» уже здесь

Фото: HANNIBAL HANSCHKE/Reuters

Искусственный интеллект уже готовит мирный договор по Украине, предсказывает будущее экономики и вообще, похоже, готов на все. Но именно эта решительность стала серьезно напрягать его «праотцов».

Караул!

Не так давно мастодонты IT-бизнеса с вездесущим Илоном Маском во главе начали активно лоббировать запрет на дальнейшее обучение моделей искусственного интеллекта (ИИ). В интернете распространяется открытое письмо, адресованное «братьям по разуму» – разработчикам. Его авторы просят хотя бы на полгода прекратить обучать модели а-ля ChatGPT, так как системы ИИ с интеллектом, сопоставимым с человеческим, могут представлять серьезную опасность для общества и человечества.

«Мое главное беспокойство - захват планеты продвинутым ИИ так же, как люди захватили ее у других гоминид, и, как следствие, вымирание всей биологической жизни здесь», - довольно-таки апокалиптично настроен в беседе с Rus.Postimees cооснователь Skype и технологический инвестор Яан Таллинн. Эстонский программист оказался одним из 60 тысяч, подписавших письмо.

Плечом к плечу с ним, помимо Маска, стоит сооснователь компании Apple Стивен Возняк. Ссылаясь на исследования «ведущих лабораторий ИИ», они утверждают, что сегодня продвинутый ИИ может представлять собой «глубокое изменение в истории жизни на Земле», и его следует планировать и управлять им «с соответствующим вниманием и ресурсами».
 

Основатель Apple Стив Возняк на европейской конференции DIGITAL X, Медиапарк, Кельн, 13 сентября 2022 года. Фото: Www.imago-images.de

Рождение «Скайнет»

Весь сыр-бор начался после того, как 14 марта 2023 года компания OpenAI представила новую версию своей языковой модели на основе искусственного интеллекта, получившую обозначение GPT-4. Чат GPT разрабатывается несколько лет, но именно четвертая версия удивила всех профи. Кого-то приятно, кого-то – нет.

Если совсем просто – ИИ в этой реинкарнации стал гораздо быстрее и умнее. Например, GPT-4 способен обрабатывать не только текстовые данные, но и изображения, в том числе картинки с математическими задачами, или «каракули», написанные от руки. То есть это уже не только и не столько языковая, сколько визуальная модель. По заявлениям самой OpenAI, во многих реальных сценариях GPT-4 демонстрирует «производительность на уровне человека». Хотя на самом деле, намного выше: искусственный интеллект с высокой точностью отвечает на вопросы на 26 языках, в том числе эстонском.

Luke, I am Your Father

OpenAI как некоммерческую организацию еще в 2015 году создал сам Илон Маск. Деньги на разработки ИИ в рамках проекта давали компании PayPal, LinkedIn и многие другие. В 2018 году Маск вышел из состава совета директоров компании. По слухам – из-за конфликта интересов. А в 2019 году в OpenAI миллиард долларов инвестировала корпорация Microsoft. Илон Маск в своем Twitter теперь прямо говорит, что, по его мнению, Microsoft постепенно «захватывает» OpenAI, делая исходный код, который является «мотором» для развития ИИ, максимально закрытым.
 

Илон Маск жестикулирует во время пресс-конференции на космической базе SpaceX недалеко от деревни Бока-Чика в Южном Техасе, 10 февраля 2022 года. Фото: AFP / Scanpix

Поэтому в открытом письме его подписанты уточняют, что «в последние месяцы лаборатории ИИ вступили в неконтролируемую гонку по разработке и внедрению все более мощных цифровых разумов, которые никто - даже их создатели - не может понять, предсказать или надежно контролировать».

В этой связи, уверены они, лаборатории ИИ должны как минимум на шесть месяцев остановить обучение всех моделей ИИ, хотя понятно, что речь идет о GPT-4, других такого уровня просто нет.

Капитализму смешно

Собственно, предсказуемо против «стопа» выступает основатель Microsoft Билл Гейтс. «Я действительно не понимаю, кто может остановиться, и согласится ли каждая страна в мире остановиться, и почему это нужно делать», - сказал Гейтс. Microsoft уже выделил на развитие разработок OpenAI в области искусственного интеллекта порядка 10 млрд долларов, не пускать же деньги на ветер.
 

Основатель Microsoft Билл Гейтс едет на эскалаторе на Капитолийском холме в Вашингтоне, США, 29 марта 2023 года. Фото: REUTERS / Julia Nikhinson

Экс-исполнительный директор Web3 в Mastercard Сатвик Сетхи также считает, что причина активности инициаторов петиции - попытка «замедлить своих коллег, чтобы они могли продвинуться вперед», то есть банальная борьба с конкуренцией.

Яан Таллинн считает, что ИИ в принципе начал разрабатываться не только из-за чисто научного интереса, но и коммерческого давления. Он полагает, что за шесть месяцев, если, конечно, кто-то прислушается к тезисам, изложенным в письме, можно будет понять, возможна ли вообще эта пауза в эволюции ИИ. «Если нет, то нам, по сути, конец», - обрадовал всех Яан Таллинн.

«Развитие сейчас происходит экспоненциально быстро, поэтому есть опасения, что регуляция не успевает. Через шесть месяцев скорее всего будет невероятный скачок определенных возможностей и качества. А ИИ надо регулировать законами, чтобы наше текущее устройство общества успело приспособиться», - поделился с Rus.Postimees основатель Codeborne IT, разработчик программного обеспечения и эксперт в вопросах цифровых технологий Антон Кекс (признан Rus.Postimees предпринимателем 2022 года - прим.ред.)

Но, судя по всему, остановки и не произойдет, так как конкуренты не готовы уступать другим и не хотят отставать. Тем более, что эта самая остановка - всего лишь предложение, а не обязательство.

Да и, скорее всего, сейчас речь идет все же не об угрозе человечеству, а о борьбе между крупными корпорациями, способными в принципе создавать ИИ.

«У Эстонии и большинства стран и компаний нет таких ресурсов, - утверждает Антон Кекс. - В будущем контроль над большими ИИ будет сконцентрирован в руках нескольких компаний, и другие будут его использовать за абонентскую плату, для более узконаправленных целей».
 

Антон Кекс. Фото: Частный архив

Можно и зайца научить курить

Антон Кекс уверен, что пока нас окружают огромные статистические машины, которые на самом деле «не понимают» того, что производят. А разработчики, верит Антон Кекс, и сами уже понимают, что любая разработка ИИ должна иметь много уровней защит, как в плане цензуры, так и для возможности отключения в случае выхода из-под контроля.

«ИИ - это новая реальность, без которой мы не будем представлять себе жизнь лет через десять», - говорит Антон Кекс. По его мнению, опасность для человечества конечно может состоять в том, что ИИ сможет манипулировать нашими знаниями или мнениями, если произойдет прорыв до реально мыслящего и имеющего желания ИИ. Однако в целом, при наличии контроля, это больше про позитив.

«Я считаю, что это скорее сделает людей эффективнее и будет экономить время. Даже если ИИ уже способен, например, писать программный код, то нужны люди, чтобы продумать всю большую систему», - дает шанс ИИ Антон Кекс.

Человеческое, слишком человеческое

Пока на уровне государств на GPT-4 отреагировала Италия: страна временно запретила ChatGPT «из-за проблем с защитой данных». А испанский университет Кордовы недавно уволил одного из своих сотрудников, специалиста по катализу и коллоидной химии Рафаэля Луке. Выяснилось, что большинство его научных открытий и работ сделано с участием ChatGPТ. Сгубили «союзника Терминатора» чисто человеческие штуки, вроде эго и жадности. Химик публиковал по научной статье каждые 37 часов.

А вот немецкое издание Berliner Zeitung старается приобщить искусственный интеллект к хорошему: журналисты поручили ChatGPT написать письма от лица федерального канцлера ФРГ Олафа Шольца Владимиру Путину и Владимиру Зеленскому с призывом к миру. Чат-бот подготовил проект мирного договора между Россией и Украиной. Может, сработает?
 

Арнольд Шварценеггер позирует у копии Терминатора на премьере фильма «Терминатор: Генезис» в Голливуде, Калифорния, 28 июня 2015 года. Фото: REUTERS / Mario Anzuoni

Trololo Song

Представители самой OpenAI после появления письма коллег по цеху в лучших традициях качественного пиара быстро на него ответили, причем, судя по всему, не без стеба.

«После того, как наша последняя модель GPT-4 завершила обучение, мы потратили более шести месяцев (!) на то, чтобы сделать ее более безопасной и согласованной, прежде чем выпустить ее в открытый доступ, - написали они в своем блоге. - Мы считаем, что мощные системы искусственного интеллекта должны подвергаться тщательной оценке безопасности. Для обеспечения внедрения такой практики необходимо регулирование, и мы активно взаимодействуем с правительствами по вопросам оптимальной формы такого регулирования».