ИИ: Угроза человечеству или гарантия безопасности?

В ходе заседания Генеральной Ассамблеи ООН, проходящего в Нью-Йорке, была официально представлена крупнейшая на сегодняшний день коалиция, подписавшая «Глобальный призыв к красным линиям в области ИИ».

Свой голос в поддержку документа, гарантирующего международные ограничения на опасные применения искусственного интеллекта, отдали свыше 200 представителей ключевых секторов и стран мира.

Среди подписантов — десять лауреатов Нобелевской премии, включая авторитетных исследователей в области искусственного интеллекта Джеффри Хинтона и Йошуа Бенджио, а также Войцеха Зарембу — соучредителя OpenAI. Среди политиков — бывшие главы государств, например Мэри Робинсон (Ирландия) и Хуан Мануэль Сантос (бывший президент Колумбии).

Основная цель инициативы — договориться на международном уровне о юридически обязывающих «красных линиях» — чётких, недопустимых границах для развития и применения ИИ, пересечение которых может нанести серьёзный ущерб человечеству и международной безопасности. Конкретный список таких запретов пока не утверждён, но приводятся примеры: запрет на автономное ведение ядерных операций, использование ИИ в производстве оружия без значимого человеческого контроля, применение ИИ для массовой слежки и социального скоринга, а также разработка систем, способных к неконтролируемому самовоспроизведению.

Авторы призывают государства прийти к соглашению по этим правилам не позднее конца 2026 года и создать международный независимый орган, который будет отслеживать выполнение договорённостей, оперативно оценивать новые угрозы и предлагать меры реагирования.

В появившемся заявлении подчёркивается, что несдержанный рост мощи ИИ может привести к катастрофическим последствиям: массовой безработице, антропогенным пандемиям, масштабным нарушениям прав человека и потере контроля над технологией.

Если не принять своевременных мер, то контроль над ИИ может выйти из-под человеческого надзора, что поставит под угрозу фундаментальные основы нашей цивилизации говорится в документе.

Инициатива получила широкое общественное и экспертное внимание, став самой масштабной кампанией такого рода к настоящему времени. В ближайшие месяцы на международных форумах и в рабочих группах будет обсуждаться детализация и внедрение этих «красных линий» в глобальные нормы и законодательство.

Искусственный интеллект с захватывающей дух скоростью трансформирует повседневную жизнь, информационное пространство, мировую экономику и оказывает влияние на международную безопасность, считает Генеральный секретарь ООН Антониу Гутерриш.

— Вопрос не в том, повлияет ли ИИ на международный мир и безопасность, а в том, как мы будем формировать это влияние, – сказал глава ООН.

При ответственном использовании, отметил Гутерриш, ИИ поможет предотвращать конфликты и защищать население, в том числе за счет выявления потенциальных вспышек насилия. ИИ также используется в разминировании и других областях.

При этом он также может превратиться в оружие. Искусственный интеллект уже активно используется в конфликтах.

— Кибератаки с использованием ИИ могут уничтожить критически важную инфраструктуру или нарушить ее работу в считанные минуты. Возможность фальсифицировать и манипулировать аудио- и видеоматериалами угрожает целостности информации, усиливает поляризацию и может спровоцировать дипломатические кризисы, – добавил Генсек.

Одна из основных целей открытых дебатов в Совете – стимулировать обсуждение вопросов снижения рисков, связанных с использованием ИИ, и максимизации его преимуществ в контексте международного мира и безопасности с учетом потенциальной роли Совбеза в этом процессе.

— Совет [Безопасности] и государства-члены ООН должны обеспечить, чтобы военное использование ИИ находилось в полном соответствии с международным правом и Уставом ООН, – сказал Гутерриш.

Он подчеркнул, что человек должен контролировать любое решение о применении силы.

— Судьба человечества не может быть оставлена ​​на усмотрение алгоритма. Люди всегда должны сохранять контроль над решениями, касающимися жизни и смерти, – заявил он.

Гутерриш также призвал создать глобальную нормативную базу для использования ИИ.

Учитывая значительный прогресс в разработке технологий искусственного интеллекта, которые могут как способствовать укреплению, так и подрывать международную безопасность, члены Совета Безопасности в последнее время стали уделять больше внимания этому вопросу. Сегодняшняя встреча – третье официальное заседание Совета, посвященное ИИ. Великобритания провела первое заседание по этой теме в июле 2023 года, а США – второе в декабре 2024 года.

Дебаты на полях Недели высокого уровня Генассамблеи ООН проходят под председательством Южной Кореи. В них приняли участие приглашенные докладчики: Еджин Чой, старший научный сотрудник Института ИИ, ориентированного на человека, при Стэнфордском университете и Йошуа Бенжио, профессор Монреальского университета, сопрезидент некоммерческой организации LawZero.

Бенжио также предупредил, что человечество в настоящее время не знает, как контролировать самые передовые системы искусственного интеллекта. Это уже создает серьезные проблемы, отметил он, напомнив о недавних инцидентах с участием чат-ботов, которые могли поставить под угрозу жизнь людей с психическими расстройствами.