Специалисты призывают к глобальному консенсусу для договора по искусственному интеллекту

Многие известные эксперты считают, что сегодня каждого жителя этой планеты затрагивают проблемы искусственного интеллекта и требуют глобального скоординированного ответа. Международному сообществу представлено подписанное экспертами в области ИИ открытое письмо с призывом разработать и ратифицировать договор о безопасности ИИ, создав при широкой международной поддержке рабочую группу на Саммите по безопасности ИИ в Великобритании.

Первый Международный саммит по безопасности ИИ прошел 1 и 2 ноября 2023 года в Лондоне. Среди экспертов, подписавших обращение, были ученые, лидеры бизнеса и государственного управления: ряд из них входят в Консультативный орган высокого уровня ООН по ИИ, а некоторые получили приглашение на Саммит. В их числе ведущий эксперт в области безопасности и управления ИИ в Китае Йи Цзэн, старший научный сотрудник Google DeepMind и соучредитель Института будущего жизни (FLI) Виктория Краковна, обладатель премии Тьюринга и пионер ИИ Йошуа Бенджио, известный когнитивист Гари Маркус, а также член правления ведущей лаборатории ИИ Anthropic Люк Мюльхаузер.

Китайский ученый Йи Цзэн отметил: «Для договора по искусственному интеллекту нам нужен глобальный консенсус и глобальное содействие, начиная с крупнейших держав в области искусственного интеллекта, ведущих исследователей искусственного интеллекта и компаний, чтобы показать и привести мир к лучшему будущему, делясь тем, как разрабатывать и внедрять системы ИИ, ставящие безопасность во главу угла, не оставляя никого позади. Мы не можем знать, каким образом и как ИИ может принести нам катастрофические риски, просто потому что без очень серьезного и тщательного проектирования модели и архитектуры могут развиваться непредсказуемым образом. И именно поэтому нам как человеческому сообществу необходимо сотрудничать и выяснять потенциальные пути и различные угрозы и по возможности готовиться».

Подписавшие письмо эксперты приглашают членов международного сообщества принять участие в дискуссиях вокруг договора по ИИ и содействовать внедрению международных правил в этой сфере. Главные цели международного договора по ИИ – обеспечение доступа к благам ИИ для всех людей и снижение катастрофических рисков, которые представляют для человечества системы искусственного интеллекта. Для этого необходимо взять под контроль масштабирование возможностей ИИ.