В этой связи аналитический центр «National Interest» представил соответствующий анализ. В нём рассматриваются скандальные заявления президента США Дональда Трампа о необходимости не допустить получения Ираном ядерного оружия и их сравнение с северокорейским сценарием, а также противоречия в подходе Вашингтона к рискам и регулированию искусственного интеллекта в условиях жёсткой конкуренции с Китаем. Оцениваются различные точки зрения на последствия для безопасности и вызовы регулирования в этих двух ключевых сферах.
Полный текст этого анализа приводится ниже.
Один гипотетический вопрос по-прежнему вызывает споры: что предпочтительнее — быть атакованным крокодилом или акулой? Хотя «эксперты» утверждают, что крокодилы воспринимают человека как обычную добычу, тогда как акулы обычно кусают людей по ошибке, ни один из этих вариантов не выглядит даже отчасти желательным.
После различных политических и технологических событий по всему миру теперь можно предложить новый гипотетический сценарий: что предпочтут США — риск ядерной войны с Ираном или потенциальную угрозу вымирания человечества от искусственного интеллекта? Оба варианта представляются крайне серьёзными угрозами. Однако Дональд Трамп, в очевидном противоречии, считает экономическое давление на американцев ради предотвращения получения Ираном ядерного оружия приемлемым, а опасность искусственного интеллекта представляет незначительной.
Президент США во время недавней поездки в Ирландию на встрече с журналистами заявил: «Мы опережаем Китай в области искусственного интеллекта и являемся самой передовой страной мира; мы намерены сохранить это положение, поскольку тот, кто победит в гонке искусственного интеллекта, станет окончательным победителем в глобальном соперничестве. Мы можем устанавливать регуляторные и защитные рамки и предпринимать подобные шаги, но, думаю, те, кто говорит о необходимости надзора за искусственным интеллектом, преследуют не самые добрые намерения».
Получение Ираном ядерного оружия всегда было кошмаром для США и особенно для ближайшего американского союзника в Западной Азии — Израиля. Трамп не был первым президентом, говорившим о необходимости не допустить получения Ираном ядерного оружия, и certainly не станет последним.
Однако «никогда» — это очень длительный срок; механизм создания ядерного оружия больше не является строго охраняемым секретом. Если страна со средним научно-техническим потенциалом решит создать ядерное оружие, предотвратить это будет крайне сложно. Первые ядерные вооружения были созданы до развития искусственного интеллекта, поэтому разработка последующих вооружений с его помощью будет гораздо проще.
Например, Пакистан в 1980-х и 1990-х годах создавал ядерное оружие без опоры на существующие технологии. При этом Иран располагает гораздо более сложными расчётами, более высоким научным уровнем, многолетним опытом ядерной деятельности и возможностью использовать искусственный интеллект.
Разумеется, искусственный интеллект не создаст для Тегерана готовое ядерное оружие, но иранские учёные, несомненно, смогут всё активнее использовать инструменты, усиленные искусственным интеллектом, чтобы работать быстрее, анализировать больше данных, проверять возможные решения и решать технические задачи эффективнее, чем учёные предыдущего поколения.
Кроме того, утверждение, что Тегеран никогда не сможет получить ядерное оружие, не соответствует действительности. Истина в том, что если Иран решит разрабатывать ядерное оружие, то, несмотря на все усилия США и Израиля, рано или поздно он это сделает.
Да, ядерные объекты можно бомбить, а центрифуги — уничтожать, но иранских учёных, обладающих ядерными знаниями, невозможно истребить. Иранские инженеры годами работали над различными компонентами этой программы, и страна накопила десятилетия опыта. Если Тегеран решит восстановить свои ядерные объекты, Вашингтону придётся решать, наносить ли удар снова. Иран также может перенести больше работ под землю, рассредоточить их по меньшим объектам, усилить скрытность и ждать более благоприятного момента для обнародования своей деятельности.
Возможно, история для Ирана повторяется. В 1990-х годах Северная Корея построила реакторы для производства плутония в научно-исследовательском ядерном центре в Йонбёне. Страна подписала международные соглашения о нераспространении ядерного оружия, а затем нарушила их.
После неоднократных угроз выйти из Договора о нераспространении ядерного оружия в 1990-х годах Пхеньян в 2003 году официально вышел из него. Два года спустя страна впервые публично заявила, что создала оперативное ядерное оружие, а в октябре 2006 года провела первое испытание. Теперь, когда у Северной Кореи есть ядерное оружие, варианты США стали гораздо сложнее.
Обладание Северной Кореей ядерным оружием вынудило Трампа пойти на переговоры с этой страной, поскольку он не может рисковать уничтожением Корейского полуострова в разрушительной ядерной войне, и поэтому он смирился с ядерным арсеналом Пхеньяна. Трамп не хочет, чтобы Иран стал ещё одной страной, с ядерным арсеналом которой Вашингтону придётся учиться жить.
Однако очевидно, что, несмотря на понимание Трампом концепции силы, ему должным образом не объяснили пределы возможностей президента. Он годами говорит, что Иран никогда не получит ядерное оружие, но не осознаёт, что, несмотря на все трудности, причинённые американским гражданам в ходе региональной войны с Ираном, он не сможет помешать независимой стране достичь определённого уровня оружейных технологий.
При этом единственный ответ Трампа на подорожание топлива, ставшее предвестником роста цен на другие товары в США, — перекладывание вины на Украину. Он преуменьшает значение региональной войны и блокирования Ормузского пролива иранскими вооружёнными силами и называет причиной роста цен на топливо удары Украины по энергетической инфраструктуре России. Он также назвал падение финансовых возможностей американских граждан в последние месяцы большой ложью и обманом. Однако то, что Трамп называет обманом, разрушает контроль республиканцев над Палатой представителей и, возможно, над Сенатом.
Тем не менее для экспертов и аналитиков остаётся непонятным безразличие Трампа к угрозе искусственного интеллекта. Если Белый дом называет озабоченности, связанные с искусственным интеллектом, обманом, страна остаётся без целостной позиции по задокументированной и растущей угрозе.
Удивительно, что, пока компании, разрабатывающие искусственный интеллект, предупреждают о безграничном развитии этой технологии, человек, работавший в сфере недвижимости, полагает, что понимает больше специалистов в этой области, и считает риски искусственного интеллекта обманом.
Вместе с тем Кевин Сурас, генеральный директор поставщика биометрической безопасности TokenCore, считает, что администрация Трампа не игнорирует эту угрозу полностью. Он отметил: процесс управления в Белом доме сложнее, чем просто заявление президента, которое может закрыть дело по узкоспециальному вопросу; исполнительный указ, изданный в июне, прямо признаёт риски продвинутой кибербезопасности, связанные с искусственным интеллектом, и создаёт процедуры тестирования и проверки в этой сфере. В таких условиях заявление одного президента не может существенно повлиять на этот процесс.
Главное отличие ситуации с развитием искусственного интеллекта от иранской ядерной программы состоит в том, что США жёстко конкурируют с потенциальными соперниками, такими как Китай. Пока в отношении развития искусственного интеллекта не будет достигнуто глобальное взаимопонимание, даже если США введут регуляторные и защитные меры, так называемые «гардрейлы», угроза искусственного интеллекта сохранится.
Мир вовлечён в большую гонку за определение самой передовой страны в одной из важнейших технологий своей эпохи; технологии, которая будет использоваться как для разрушительных целей, так и для глубоких научных открытий, способных коренным образом изменить геополитический баланс. Эта большая гонка требует сильной инженерии. В таких условиях ни одна страна добровольно не замедлит свой ход, создавая обременительные законы.
Даже если процесс развития искусственного интеллекта завтра замедлится, меры безопасности стран должны ускориться. Мы не можем двигаться с той же скоростью, с какой развивается защищаемая нами технология. Независимо от решений, принимаемых компаниями в сфере искусственного интеллекта, задача обеспечения безопасности этих систем стала практически в десять раз сложнее.
Однако вряд ли мы станем свидетелями согласованного и глобального замедления развития искусственного интеллекта. Одна из причин этого — сложность проверки или применения такого ограничения, особенно когда страны и компании конкурируют за получение лучших моделей. Точно так же, как Северная Корея, несмотря на Договор о нераспространении ядерного оружия, продолжала развивать ядерные вооружения, Иран при наличии воли также сможет это сделать.
Иными словами, главный вопрос не в том, можно ли остановить развитие искусственного интеллекта, поскольку это невозможно. Вопрос в том, спроектированы ли доступы, лицензии и механизмы аутентификации так, чтобы не позволить системе искусственного интеллекта стать опасной для человечества.
Трамп утверждал, что Иран находится «в двух или, возможно, трёх неделях от получения ядерного оружия», и использовал это заявление для оправдания военных ударов. Однако, по данным МАГАТЭ и экспертов, не было никаких доказательств наличия у Ирана активной и структурированной оружейной программы или неизбежного создания ядерного оружия.
Трамп также полагает, что Тегеран в случае получения ядерного оружия применит его, но свидетельства говорят об обратном. Большинство экспертов и разведывательных agencies оценивают, что Иран вряд ли нанесёт ядерный удар по какой-либо стране. Вместо этого он может пойти по пути Северной Кореи, то есть использовать ядерное оружие как крайнее средство для гарантии того, что извне не будет предпринята попытка смены режима.
Наличие у Ирана ядерного оружия не является неизбежным, но остановить это без смены режима, которая сейчас представляется маловероятной, невозможно. В то же время Иран может продолжать учиться, восстанавливать, усиливать скрытность и использовать технологические достижения, облегчающие решение научных и инженерных задач. Ситуация с угрозой искусственного интеллекта должна восприниматься серьёзнее, чем иранская ядерная программа, однако страх Трампа перед тем, что Китай может получить преимущество, мешает попыткам замедлить развитие искусственного интеллекта.
Хорошая новость в том, что до сих пор не наблюдалось агентов искусственного интеллекта, способных представлять серьёзную опасность для человека; эти модели развивались на основе исследований в области безопасности и кода, созданного людьми.
Никакая армия роботов в ближайшее время не станет угрозой для человечества, но риск в том, что искусственный интеллект развивается с невообразимой скоростью, а запаса безопасности в отношении будущего этой технологии нет. С другой стороны, в отличие от ядерных технологий, эта технология вышла из стадии управляемости, и возможности контролировать или остановить её развитие не видно. Регулирование, даже если оно будет принято, не сможет остановить искусственный интеллект так, как это удалось в случае с Договором о нераспространении ядерного оружия.
Конец сообщения.
