Вакх предупреждает. На форуме в Эрмитаже политики и бизнес обсудили нейросети и суверенный ИИ

Самой уютной беседой Форума объединенных культур в его первый день стала встреча «Новые технологии в культуре и искусстве — благо или вред, преимущества или риск», которую проводил гендиректор президентского фонда культурных инициатив Роман Карманов. Уже который год в первом атриуме он собирает не технических специалистов в области ИИ — а визионеров: людей, которые способны увидеть в повседневных явлениях их перспективы, задуматься, к чему приведет модное поветрие, и что в конечном итоге ждет общество.

Поэтому неудивительно, что именно эту дискуссию в качестве своей первой за день выбрал хозяин площадки — Михаил Пиотровский. Директор Эрмитажа уже неоднократно рассказывал о своем интересе к использованию искусственного интеллекта как советчика, предлагающего варианты, и дающего взгляд со стороны — но не заменяющего интеллектуальной работы человека. Но и минусы ИИ он тоже видит.

«Первые, кто активно использует искусственный интеллект — бюрократы», — заявил Пиотровский, добавив, что вмешательство машин в жизнь людей — зачастую самовольное — стало повседневной практикой.

При этом, заметил директор Эрмитажа, как следствие использования нейросетей, повышается значимость таких профессий, как учитель и редактор: ИИ нужно учить, результат его работы — редактировать, а еще — комментировать, так что рецензент как профессионал тоже важен.

А еще, по мнению Пиотровского, человеку важно замедлиться: скоростные вычисления ИИ возьмет на себя — а вот людям «надо вспоминать достоинства, которые у нас остаются и не имеют отношения к псевдоэффективности работы мозга». «У мозга есть другие цели, кроме эффективного решения задач, — математических в том числе», — рассуждает Михаил Борисович. Именно поэтому растет популярность медитаций, медиаций, особую значимость приобретает медленное вдумчивое чтение, осмотр картин.

«Когда вы читаете медленно, вы испытываете совсем другое наслаждение — что в литературе, что в философском, что в управленческом тексте», — рассуждает он. И продолжает: «Математика — это же такой кайф: решать и играть с этими цифрами! В этом — половина дела! А решить-то что…»

Другой участник дискуссии — спецпредставитель президента по международному культурному сотрудничеству Михаил Швыдкой — в свою очередь предостерег общество: «Нейросети ведут к деградации человеческого сознания».

По его мнению, это сегодня мы используем ИИ в шутку, как аттракцион, — а завтра нейросеть заменит очень многое, — и в результате начнут трансформироваться сами человеческие органы, в том числе мозг. Ведь тело всегда отзывалось на изменение образа жизни человека.

Еще один вопрос, который его беспокоит, — национальная безопасность и защита национальной идентичности. Ведь та же межнациональная система по защите интернета от рисков со стороны искусственного интеллекта и нейросетей (для пресечения выхода их из-под контроля), которую Россия хочет создать совместно с Китаем, будет предлагать китайский образ мысли.

Но самым мрачным выглядел прогноз от замгендиректора «Газпром-Медиа-Холдинга» Юлии Голубевой, которая обратилась к аудитории и сначала попросила поднять руки тех, кто использует искусственный интеллект каждый день (подняли руки абсолютное большинство собравшихся), а потом — тех, кто продолжил бы делать это, если бы один запрос обходился в 500 рублей (желающих остались единицы).

«Стоимость подписки на ИИ сегодня очень сильно субсидирована, — объяснила она. — Есть данные, которые показывают, что при оплате 200 долларов в месяц за Chat GPT, пользуясь им, ты можешь сжечь ресурсов на 14 тысяч долларов в этот же период. И когда компании-разработчики попытались „перевесить“ эту цену на пользователя и отменить подписную модель, заменив ее сдельной оплатой, пользователи стали саботировать использование ИИ».

По данным, которые она привела, основные компании-разработчики искусственного интеллекта имеют долги почти в два триллиона долларов.

«Планируемый объем инвестиций всех компаний-лидеров отрасли в инфраструктуру в этом году — около 700 миллиардов долларов, а это, вдумайтесь, больше, чем все мировые инвестиции в добычу нефти и газа! — рассказала она. — К 2030 году будут еще какие-то невероятные цифры. И это становится все более и более похоже на самый крупный инвестиционный пузырь в истории человечества. А какое колоссальное количество энергии требуется: представьте себе, в прошлом году ЦОДы для ИИ потребили 155 тераватт часов -это оценка международного энергетического агентства. Для сравнения — вся Москва за это время потратила менее 60 тераватт-часов, а к 2030 году, они посчитали, будет, как минимум, 465 часов. А кто за это все будет платить? Эту высокую цену пока не готов платить никто».

Юлия Голубева напомнила о том, что огромные затраты идут не только на развитие ИИ, но и на маркетинговую кампанию, которая буквально заставляет компании использовать ИИ в каждой жизненной ситуации, подгоняя, что это уже сделали все, и в скором времени без навыков работы с ИИ специалист станет непригоден.

«Есть предположение, что делается это не сколько для того, чтобы сделать жизнь человечества комфортной, сколько чтобы вырастить поколение людей, которые не умеют жить без ИИ, — заключила она. — Вы возьмите любого современного школьника: он, как и все его сверстники, использует ИИ. Что он у него разовьет? Какие навыки? Навыки написания промта? И то не факт. И когда он вырастет, тогда-то компании-разработчики искусственного интеллекта и смогут запросить с него любую цену за свой продукт. Потому что ему все равно придется платить: он без ИИ жить не умеет. И тогда окупятся все эти колоссальные вложения».

Данные, говорящие в пользу подобных рассуждений, ранее привел еще один участник дискуссии — замначальника управления президента по общественным проектам Александр Журавский.

«Первое, что делают все нейросети в любом контакте с потребителем — адаптируются под цифровой образ потребителя, потому что главное, чего они должны достичь на первом этапе коммуникации — доверие, — отметил он. — Они со всем соглашаются. А потом, когда он уже преодолеет ваш критический порог восприятия, тут-то и начинается система манипуляций».

При этом особенно страдают дети, жизнь которых теперь с самого начала идет бок о бок с ИИ: они не воспринимают его данные критически. Причем чем более ранний возраст, тем менее критичны пользователи.

Впрочем, «проруха» бывает и на взрослых.

«Сегодня на Западе люди при помощи персональных агентов уже ведут бухгалтерию, проектируют свой летний отдых, делегируют массу управленческих функций, не понимая, что оболочка-то общая, — продолжил замначальника управления президента по общественным проектам. — Да, агент — персональный, но все, что вы передаете, по вашему же пользовательскому соглашению, может быть передано в интересах третьих лиц».

С этим связано в том числе то, что Россия движется по пути создания собственного национального, суверенного искусственного интеллекта — пользуясь теми технологическими возможностями, которые сейчас предоставляют Китай и США для обучения систем изучения больших лингвистических моделей.

XII Санкт-Петербургский международный Форум объединенных культур проводится в Петербурге с 24 по 26 сентября. Один из его ключевых треков — «Путь объединенных культур и технологий к культурному коду будущего».

Алина Циопа, «Фонтанка.ру»