Многие существующие системы искусственного интеллекта – далеки от совершенства. Более того, некоторые из них несут за собой серьезные риски для деятельности человека. Как обеспечить надежное, этичное и безопасное использование инструментов ИИ, говорили на сессии «Доверенный искусственный интеллект» в рамках Глобального форума Ecumene 2024.
Как отметил директор сети ЮНЕП «Одна планета» по вопросам управления Хорхе Лагуна-Селис, сейчас искусственный интеллект активно используется бизнесом во многих отраслях хозяйства.
«Он помогает точнее предсказывать, какие будут возникать отходы от производственных процессов, позволяя уже на этапе проектирования сокращать выбросы. Уже сейчас бизнес использует возможности искусственного интеллекта, чтобы оптимизировать объемы пластмассы, используемой для производства упаковки. Аналогичное применение таким технологиям можно найти в сфере энергетики и сельском хозяйстве. Их модификация позволит вырабатывать определенные паттерны, которые будут приносить пользу планете», - отметил он в видеообращении.
Важно сделать разработки безопасными, заявил директор Института системного программирования им. В.П. Иванникова РАН Арутюн Аветисян. В этой связи он обратил внимание на «социогуманитарное направление, дающее возможности социального инжиниринга» - доверенный искусственный интеллект.
«Во всем мире и в нашей стране существует единый «концепт сомнения». Он касается того, что без обеспечения необходимого уровня доверия внедрение технологий искусственного интеллекта будет невозможно. Это запротоколировано в стратегическом документе Развития искусственного интеллекта, опубликованном в конце апреля 2024 года», - добавил он.
Тему продолжил вице-президент академии криптографии РФ Андрей Коваленко. Главное, по словам спикера, чтобы все модели машинного обучения получили «теоретическое обоснование» и к ним были применены определенные требования.
«Когда вы покупаете лекарство, в коробочке лежит свидетельство, подтверждающее, что это лекарство работает правильно. Значит есть некий орган, который берет на себя ответственность за качество этой продукции. Любое техническое устройство, которым мы с вами пользуемся - лифт, автомобиль - подчиняются стандартам функциональной безопасности. Это мировые стандарты», - подчеркнул он.
Программы искусственного интеллекта все еще несовершенны, и прежде чем нейросети перестанут ошибаться, пройдет еще много времени, уверен руководитель Исследовательского центра доверенного искусственного интеллекта ИСП РАН, к.ф.-м.н. Денис Турдаков.
«Приведу пример с системой подсчета пассажиров в метро – данные о том, сколько человек находится в подземке, она получала через видеокамеру. Все отлично работало, пока станцию метро не закрыли на плановый ремонт. И, несмотря на это, система все равно в определенный момент передавала информацию о наличии пассажиров внутри. Оказалось, что в объектив камеры каждый раз попадали часы с очень контрастными стрелками. То есть ИИ просто запомнил время, на которое приходился «пик» загруженности. Подобных проблем достаточно много, и теперь нам надо понять, как эта аналогия устроена».
Подробная программа Форума ECUMENE 2024 и онлайн-трансляция доступны на официальном сайте https://ecumeneforum.com.
О ECUMENE
Первый Глобальный Форум ECUMENE состоялся в сентябре 2021 года в Москве. Более 130 000 зрителей из 50 стран следили за событиями деловой программой, в рамках которой состоялись выступления более 70 спикеров из 16 стран мира. С каждым годом аудитория мероприятия увеличивается. Так, в 2022 году в Форуме приняли участие 100 спикеров из 22 стран мира, а зрителями стали более 300 000 человек из 83 стран мира. В 2023 году в дискуссиях приняли участие более 120 экспертов, а мероприятия Форума посмотрели более 700 000 зрителей из 87 стран.
Ключевой миссией ECUMENE является продвижение позиции России в рамках глобальной повестки устойчивого развития, формирование новых тенденций на период после 2030 года. Результаты работы Форума ежегодно презентуются в рамках Конференции сторон Рамочной конвенции ООН по изменению климата (COP).
Генеральным партнером Глобального Форума ECUMENE 2024 выступает Газпромбанк. Мероприятие проходит при поддержке Исследовательского центра частного права им. С.С. Алексеева при Президенте РФ и нескольких институтов Организации Объединенных Наций: Программы ООН по охране окружающей среды, Рамочной конвенции ООН об изменении климата, Продовольственной и сельскохозяйственной организации, Информационного центра ООН. Соорганизатором выступает Университет МИСИС.