Эрмитаж обсудил ИИ и суверенитет

Первый день Форума объединенных культур в Эрмитаже открыла дискуссия «Новые технологии в культуре и искусстве — благо или вред, преимущества или риск». Модератором выступил Роман Карманов, гендиректор президентского фонда культурных инициатив. Уже несколько лет в первом атриуме он собирает не технических специалистов по ИИ, а визионеров — людей, способных разглядеть перспективы в повседневных явлениях и задуматься о последствиях для общества.

Неудивительно, что именно эту сессию первым делом посетил хозяин площадки Михаил Пиотровский. Директор Эрмитажа не раз говорил, что видит в искусственном интеллекте советчика, предлагающего варианты и взгляд со стороны, но не заменяющего работу человеческого ума. Однако он замечает и минусы.

«Первые, кто активно использует искусственный интеллект, — бюрократы», — заявил Пиотровский. Он добавил, что вмешательство машин в жизнь людей — зачастую самовольное — стало повседневной практикой.

Директор Эрмитажа отметил: из-за распространения нейросетей растет ценность таких профессий, как учитель и редактор. ИИ нужно обучать, его результаты — редактировать, а также комментировать, поэтому рецензент как профессионал тоже важен.

По мнению Пиотровского, человеку стоит замедлиться: скоростные вычисления возьмет на себя ИИ, а людям «надо вспоминать достоинства, которые у нас остаются и не имеют отношения к псевдоэффективности работы мозга». «У мозга есть другие цели, кроме эффективного решения задач, математических в том числе», — рассуждает Михаил Борисович. Именно поэтому растет популярность медитаций, медиаций, а медленное вдумчивое чтение и осмотр картин приобретают особую значимость.

«Когда вы читаете медленно, вы испытываете совсем другое наслаждение — что в литературе, что в философском, что в управленческом тексте, — говорит он и продолжает: — Математика — это же такой кайф: решать и играть с этими цифрами! В этом — половина дела! А решить-то что…»

Другой участник дискуссии, спецпредставитель президента по международному культурному сотрудничеству Михаил Швыдкой, предостерег: «Нейросети ведут к деградации человеческого сознания».

По его словам, сегодня ИИ используют в шутку, как аттракцион, но завтра нейросеть заменит многое, и в результате начнут трансформироваться сами человеческие органы, включая мозг. Ведь тело всегда отзывалось на изменение образа жизни.

Еще один вопрос, который его беспокоит, — национальная безопасность и защита национальной идентичности. Ведь межнациональная система по защите интернета от рисков со стороны искусственного интеллекта и нейросетей, которую Россия хочет создать совместно с Китаем, будет предлагать китайский образ мысли.

Самым мрачным выглядел прогноз замгендиректора «Газпром-Медиа-Холдинга» Юлии Голубевой. Она попросила поднять руки тех, кто использует искусственный интеллект каждый день (подняли руки абсолютное большинство собравшихся), а затем — тех, кто продолжил бы это делать, если бы один запрос стоил 500 рублей (желающих остались единицы).

«Стоимость подписки на ИИ сегодня очень сильно субсидирована, — объяснила она. — Есть данные, которые показывают, что при оплате 200 долларов в месяц за Chat GPT, пользуясь им, ты можешь сжечь ресурсов на 14 тысяч долларов в этот же период. И когда компании-разработчики попытались „перевесить“ эту цену на пользователя и отменить подписную модель, заменив ее сдельной оплатой, пользователи стали саботировать использование ИИ».

По ее данным, основные компании-разработчики искусственного интеллекта имеют долги почти в два триллиона долларов.

«Планируемый объем инвестиций всех компаний-лидеров отрасли в инфраструктуру в этом году — около 700 миллиардов долларов, а это, вдумайтесь, больше, чем все мировые инвестиции в добычу нефти и газа! — рассказала она. — К 2030 году будут еще какие-то невероятные цифры. И это становится всё более и более похоже на самый крупный инвестиционный пузырь в истории человечества. А какое колоссальное количество энергии требуется: представьте себе, в прошлом году ЦОДы для ИИ потребили 155 тераватт-часов — это оценка международного энергетического агентства. Для сравнения: вся Москва за это время потратила менее 60 тераватт-часов, а к 2030 году, они посчитали, будет как минимум 465 часов. А кто за это всё будет платить? Эту высокую цену пока не готов платить никто».

Юлия Голубева напомнила, что огромные затраты идут не только на развитие ИИ, но и на маркетинговую кампанию, которая буквально заставляет компании использовать ИИ в каждой жизненной ситуации, подгоняя, что это уже сделали все, и в скором времени без навыков работы с ИИ специалист станет непригоден.

«Есть предположение, что делается это не столько для того, чтобы сделать жизнь человечества комфортной, сколько чтобы вырастить поколение людей, которые не умеют жить без ИИ, — заключила она. — Вы возьмите любого современного школьника: он, как и все его сверстники, использует ИИ. Что он у него разовьет? Какие навыки? Навыки написания промпта? И то не факт. И когда он вырастет, тогда-то компании-разработчики искусственного интеллекта и смогут запросить с него любую цену за свой продукт. Потому что ему всё равно придется платить: он без ИИ жить не умеет. И тогда окупятся все эти колоссальные вложения».

Данные, говорящие в пользу подобных рассуждений, ранее привел еще один участник дискуссии — замначальника управления президента по общественным проектам Александр Журавский.

«Первое, что делают все нейросети в любом контакте с потребителем — адаптируются под цифровой образ потребителя, потому что главное, чего они должны достичь на первом этапе коммуникации, — доверие, — отметил он. — Они со всем соглашаются. А потом, когда он уже преодолеет ваш критический порог восприятия, тут-то и начинается система манипуляций».

При этом особенно страдают дети, жизнь которых теперь с самого начала идет бок о бок с ИИ: они не воспринимают его данные критически. Причем чем более ранний возраст, тем менее критичны пользователи.

Впрочем, «проруха» бывает и на взрослых.

«Сегодня на Западе люди при помощи персональных агентов уже ведут бухгалтерию, проектируют свой летний отдых, делегируют массу управленческих функций, не понимая, что оболочка-то общая, — продолжил замначальника управления президента по общественным проектам. — Да, агент — персональный, но всё, что вы передаете, по вашему же пользовательскому соглашению, может быть передано в интересах третьих лиц».

С этим связано в том числе и то, что Россия движется по пути создания собственного национального, суверенного искусственного интеллекта, пользуясь теми технологическими возможностями, которые сейчас предоставляют Китай и США для обучения систем изучения больших лингвистических моделей.

XII Санкт-Петербургский международный форум объединенных культур проводится в Петербурге с 24 по 26 сентября. Один из его ключевых треков — «Путь объединенных культур и технологий к культурному коду будущего».