30 января на общеинститутском семинаре в Лаборатории теоретической физики ОИЯИ выступил директор Института системного программирования им. В. П. Иванникова академик РАН Арутюн Аветисян. Насыщенный актуальной информацией доклад был посвящен системному программированию и технологиям создания доверенных систем, в том числе с искусственным интеллектом.

Во вступительном слове директор Объединенного института академик Григорий Трубников отметил, что Институт системного программирования РАН является надежным партнером ОИЯИ по выстраиванию вычислительных сетей на территории Российской Федерации для анализа данных крупных научных установок.

«Несомненно, с учетом того, что в Дубне и странах-партнерах и участницах Института: Вьетнаме, Индии, Казахстане, Китае, странах Латинской Америки – сооружаются установки класса «мегасайенс», нам необходим научный инструментарий развития методов параллельных вычислений для обработки и анализа данных. Мы являемся создателем и владельцем самого большого по объему хранилища данных во всех странах-участницах – более 160 петабайт. Это уникальная научная инфраструктура с озерами данных, гетерогенной вычислительной средой и быстрыми телекоммуникационными каналами. С одной стороны, такая инфраструктура – большой ресурс. С другой стороны, данные в наши дни можно назвать еще одной мировой валютой, и их необходимо не только уметь собирать, но и хранить и обеспечивать их достоверность. В этом направлении налажена очень хорошая кооперация между нашими институтами», — подчеркнул Григорий Трубников.

Арутюн Аветисян обозначил, что плодотворное сотрудничество между двумя научными центрами поддерживается на протяжении многих лет. «Мы надеемся на сохранение нашей научной дружбы», — отметил он. Директор ИСП РАН напомнил, что год назад ОИЯИ, ИСП РАН и НИЦ «Курчатовский институт» подписали соглашение об основании консорциума для IT-обеспечения исследовательской инфраструктуры класса «мегасайенс». Консорциум, в создании которого со стороны ОИЯИ Лаборатория информационных технологий играет определяющую роль, призван решить задачу объединения инфраструктуры и компетенций в сфере IT-технологий на территории России с целью обеспечить функционирование и развитие сети исследовательских мегасайенс-установок.

Академик Аветисян отметил, что развитие отрасли IT происходит стремительно, при этом в последние 20 лет инновации идут из гражданского сектора экономики. «Важно понимать, что именно мы как потребители, на самом деле, являемся заказчиками технологий», — пояснил докладчик. При этом дальнейший рост IT-технологий возможен только в условиях коллаборативной экономики, с которой тесно связано понятие открытого программного кода. Качество любой платформы, независимо от того, какой была ее стоимость, зависит от количества участников в ней. Идет ли речь об искусственном интеллекте или, например, биометрии, необходимо, чтобы продукт был качественным, то есть обеспечивал эффективность, продуктивность и безопасность, в широком смысле – доверенность.

Вопреки опасениям со стороны общества, никакой субъектностью искусственный интеллект не обладает. В настоящее время существует и развивается по всему миру т. н. слабый ИИ, способный решать конкретную задачу, для которой запрограммирован. В силу ограниченности выборки используемых данных он может совершать ошибки и быть открытым для уязвимостей. Сильного ИИ не существует и в ближайшей перспективе не ожидается. Такой ИИ теоретически способен мыслить абстрактно, планировать, решать задачи на уровне человека и принимать решения, в том числе в условиях неопределенности.

Докладчик особо выделил три примера актуальных угроз при использовании ИИ: ДТП, спровоцированные беспилотными автомобилями, мошенничества с дипфейками, отсутствие у ИИ этики в коммуникации с людьми. В связи с этими и другими рисками необходимо, подчеркнул академик Аветисян, обеспечить безопасность (доверенность) работы ИИ как со стороны кибербезопасности, так и социогуманитарной (проблемы честности генеративного ИИ, манипуляция общественным мнением и сознанием отдельного человека и т. д.).

Ошибки и уязвимости в сфере ИИ отличаются от классических уязвимостей программного обеспечения. Для защиты от них недостаточно использовать классические методы, такие как проверка доступа, антивирусы и др. В Исследовательском центре доверенного искусственного интеллекта ИСП РАН ведутся исследования и разработки методов и технологий, необходимых на всех этапах создания моделей доверенного искусственного интеллекта. Разработаны инструменты для борьбы с возможными угрозами.

Начиная с 2023 года, в мире активно развивается регулирование доверенного ИИ, наблюдается постоянный рост числа законодательных инициатив. Все больше стран вводят обязательную маркировку генеративного ИИ-контента ввиду того, что в очень многих случаях не представляется возможным определить, был ли контент сгенерирован нейросетью или нет.

В ходе обсуждения, последовавшего за докладом, Арутюн Аветисян ответил на многочисленные вопросы слушателей.

Во время своего визита в Дубну Арутюн Аветисян встретился с руководством ЛИТ ОИЯИ в лице директора Сергея Шматова, научного руководителя Владимира Коренькова и его заместителя Татьяны Стриж. Во встрече принял участие специальный представитель директора ОИЯИ по образовательной политике Самвел Арутюнян. Участники обсудили существующее научное сотрудничество в области информационных технологий и возможности для его развития. В частности, были рассмотрены вопросы создания совместной облачной инфраструктуры, а также открытого репозитория доверенного программного обеспечения и наборов данных.