«ИИ может вызвать атрофию чувства живого и неживого». Константин Богомолов на форуме в Петербурге назвал неожиданную опасность искусственного интеллекта

На Форуме объединенных культур в Петербурге назвали главные опасности искусственного интеллекта. В рамках дискуссии «Новые технологии в культуре и искусстве — благо или вред, преимущества или риск» 11 сентября участники поделились своим опытом использования ИИ и теми опасениями, которые он вызывает.

Так, директор Эрмитажа Михаил Пиотровский заметил, что ИИ «никогда не говорит „нет“, „не знаю“», но главное — создает соблазн для ленивых. Причем как для ленивых начальников, которые таким образом оценивают деятельность учреждения культуры, так и для исполнителей.

Пример такой ситуации привел Михаил Швыдкой, специальный представитель президента Российской Федерации по международному культурному сотрудничеству: ему пришлось отстранить от защиты дипломницу, потому что в библиографии ее работы было указано большое количество книг, которых не существует, — на них сослался искусственный интеллект.

«Сегодня 60% курсовых работ пишутся нейросетью, и вы очень часто не можете отличить курсовую работу, написанную нейросетью, от самостоятельной работы студента — по одной простой причине: курсовая работа не предполагает открытие, она предполагает изложение известного», — заметил Швыдкой, добавив, что сегодня пока что искусственный интеллект работает с известным, и это отличает его работу от процесса творческого развития личности.

Режиссер, художественный руководитель московского Театра на Малой Бронной и Театра Романа Виктюка Константин Богомолов поделился двумя тезисами:

«Искусственный интеллект является эффективным инструментом в театральном искусстве, но технологии не могут заменить живого контакта между актером и зрителем.

Внедрение искусственного интеллекта как бытового инструмента довольно вредно: человек очень быстро расслабляется».

«Когда искусственному интеллекту передоверяется и сбор информации, и анализ информации, ему передаются важнейшие когнитивные функции, которые развивают мозг», — заявил Богомолов, добавив, что человек перестает обретать навык сбора информации.

Но и это еще не вся опасность, по мнению Богомолова: «Искусственный интеллект в какой-то степени манипулятивная вещь, потому что мы не знаем, каким образом генерится эта информация, как тенденциозно она подается, в каких объемах, в каких направлениях, и это тоже очень важная опасность».

Богомолов поделился наблюдениями, что технологии, важные для кинематографа, в то же время во многом привели к кризису киноязыка — все специалисты занялись изучением новых возможностей, но забыли, как рассказывать историю, работать с актером, выбирать ракурс, — и киноязык перестал обновляться.

Но главную опасность в отдаленной перспективе режиссер видит в другом:

«В театре есть очень простой эффект, и, я думаю, все, кто был в театре, его испытывали: ты смотришь на действие, ты видишь актёров, и ты чётко видишь, кто наигрывает, а кто живой, кто „человеческий“, а кто кривляется и что-то из себя изображает. И то, что сформулировал великий Станиславский, — „верю или не верю“ — сколько бы ни было иронии по поводу этой знаменитой фразы, она выражает суть. Это означает, что в человеке есть чувство живого. Если перед искусственным интеллектом поставить такую сцену, я уверен, он не сможет различить живое и неживое».

Как следствие, режиссер опасается: «…искусственный интеллект, который стремится к созданию абсолютного подобия человека, в какой-то момент может начать работать против нас, потому что может вызывать в нас атрофию чувства живого и неживого».

Также участники говорили о необходимости запрета для искусственного интеллекта притворяться человеком — такой позиции придерживается Юлия Голубева, заместитель генерального директора «Газпром-Медиа Холдинга». А Александр Гагиев, директор по взаимодействию с креативными индустриями музыкального сервиса «Звук», высказался о необходимости брать в свои руки контроль за тем, как ИИ собирает и преподносит информацию в интернете: «Наши дети будут получать информацию о мире от ИИ».

Резюме беседы подвел Сергей Новиков, начальник Управления президента Российской Федерации по общественным проектам. Он привел пример из своего опыта работы в атомной отрасли:

«Там говорят: все полезное опасно. И это совершенно точно описывает и отношение к искусственному интеллекту — конечно, это мощнейший инструмент, который может быть использован и во вред. И не надо быть Нострадамусом, чтобы предположить, что в горизонте 1−3–5 лет будут внесены поправки в Уголовный кодекс, согласно которым совершение преступления с использованием искусственного интеллекта будет отягчающим обстоятельством. Это уже происходит, недавно был принят законопроект, что мошенничество с использованием VPN — это отягчающее обстоятельство. Это техническое средство, и то — мощнейшее техническое средство искусственного интеллекта».

При этом Новиков подчеркнул, что «Мировой океан и научно-технический прогресс остановить невозможно»: «Нам всем нужно, безусловно, применять искусственный интеллект, но с выполнением этических норм, традиционных духовно-нравственных ценностей и Уголовного кодекса».

Международный форум объединенных культур проходит в Петербурге с 11 по 13 сентября на нескольких площадках: основной традиционно является Главный штаб Государственного Эрмитажа, также события деловой программы запланированы в Русском музее, Мариинском дворце, Гатчине и Царском Селе. Помимо деловой программы, в которой заявлено порядка 400 спикеров из России и других стран, есть также культурная.