Бывший глава Минобороны Британии сравнил ИИ с ядерной бомбой

В последние дни звучат шокирующие заявления о безопасности искусственного интеллекта. Эксперты из разных областей отмечают, что ИИ хуже ядерного оружия и вероятность катастрофы мирового масштаба составляет 10%. Ученые призывают замедлить разработку этой технологии, пока ситуация не вышла из-под контроля. Другие же специалисты отмечают, что не стоит останавливаться на достигнутом и стоит продолжать совершенствовать искусственный интеллект. По их словам, разработка этой технологии поможет решить многие проблемы. Городские медиа изучили этот вопрос и выяснили, может ли ИИ уничтожить человечество. Глава Anthropic призвал замедлить темпы совершенствования ИИ-моделей Жаркие споры по поводу развития ИИ вспыхнули после того, как генеральный директор и соучредитель компании Anthropic Дарио Амодеи в личном блоге призвал замедлить развитие этой технологии. Он отметил, что в скором времени искусственный интеллект может выйти из-под контроля. «Я много об этом писал. Сюда относятся риск потери контроля над системами ИИ, злоупотребление ИИ для кибератак и биотерроризма, а также серьезные экономические потрясения. Гонка, подпитываемая коммерческими стимулами, может еще больше обострить эти риски», — написал он в субботу в своем блоге. Он рассказал, что с самого начала работы над Anthropic боролся с двойственностью риска и выгоды, — отказ от разработки технологии лишает человечество преимуществ или просто передает ИИ в руки авторитарных властей, в то время как слишком быстрое его создание — это безрассудство. Anthropic — это американская технологическая компания и исследовательский центр в сфере искусственного интеллекта, созданная в 2021 году бывшими ведущими сотрудниками OpenAI (включая Дарио и Дэниелу Амодеи). Основной продукт: семейство передовых языковых моделей и ИИ-ассистент под названием Claude, который является главным конкурентом ChatGPT от OpenAI. «Мы искали золотую середину: показать, что можно тщательно разрабатывать технологии, добиваться коммерческого успеха и сделать безопасность предметом конкуренции для компаний, занимающихся ИИ. Другими словами, создать гонку за лидерство. Мы всегда уделяли значительную часть своих усилий изучению, анализу и информированию общественности об этих рисках, связанных с ИИ, а также отстаиванию продуманного регулирования ИИ, даже когда нас обвиняли в ажиотаже, паникерстве или попытке взять под контроль регулирующие органы. Мы старались отдавать приоритет осторожности перед скоростью и благоразумию перед прибылью», — сказано в тексте. Как отметил Амодеи, примерно с лета этого года развитие ИИ значительно ускорилось, в первую очередь благодаря растущей способности ИИ создавать следующее поколение ИИ. Эта динамика называется рекурсивным самосовершенствованием, и она начинает происходить во всей отрасли, в том числе и в Anthropic. Если ее не остановить, она может опередить способность человека понимать и контролировать эти системы, поэтому ее следует развивать очень осторожно, если вообще развивать. Это вызвало у него беспокойство. Амодеи предложил трехэтапный план, цель которого — создание ИИ со сбалансированной скоростью, обеспечивающей его безопасность при одновременном достижении преимуществ и решении важных геополитических проблем. Встроенные оценщики. Каждая передовая компания в сфере ИИ обязуется предоставлять постоянный доступ, аналогичный доступу сотрудников, команде встроенных сторонних оценщиков (таких как METR), роль которых заключается в проверке соблюдения правил и обязательств в области безопасности, сообщении об инцидентах и помощи в оценке соответствия не только готовых моделей ИИ, но и конвейеров и процессов обучения. Это ключевой шаг для проверки любых обязательств по темпам внедрения, и он имеет прецедент в банковской отрасли, где иногда регулирующие «надзорные органы» внедряются вместе с сотрудниками;демократическая координация. Компании, работающие в сфере передового ИИ в демократических странах, координируют свои действия для установления общих стандартов безопасности, а также ограничений на темпы бесконтрольного развития ИИ. Некоторые формы координации, которые могли бы существенно повлиять на темпы развития, юридически сложны и потребуют государственной поддержки;глобальная координация. США и другие демократические правительства стремятся координировать свои действия с авторитарными правительствами в той мере, в какой это возможно, серьезно относясь при этом к проблемам проверки соблюдения этих правил. При этом Амодеи отмечает, что поэтапное развитие ИИ кардинально улучшит качество жизни людей. По его словам, эта технология позволила бы быстрее решать острые вопросы во всех сферах. «Я считаю, что ИИ может вылечить большинство основных заболеваний в ближайшие 5–10 лет, значительно ускорить темпы экономического роста, создать мир изобилия и возможностей, а также положить начало возрождению демократии и свободы. При грамотном использовании ИИ может стать последним в длинной череде технологических чудес, которые возвысили и облагородили человечество», — отметил он. Политика и бизнес против замедления ИИ После заявления Дарио Амодеи президент США Дональд Трамп выступил против идеи замедления развития передовых моделей ИИ и призвал не уступить лидерство в этой области Китаю. Глава Белого дома назвал ложными утверждения о том, что развитие искусственного интеллекта может представлять угрозу для существования человечества. «Я разоблачитель лжи, и прямо сейчас я разоблачу очередную ложь — о том, что ИИ захватит, поглотит и уничтожит мир, а роботы зайдут в наши города и избавятся от нас. Послушайте, мы опережаем Китай в области ИИ… И честно говоря, я хочу сохранить это положение, потому что тот, кто победит в сфере ИИ, победит в целом», — написал американский президент в Truth Social. Предупреждения об опасности быстрого развития искусственного интеллекта американский президент сравнил с заявлениями о глобальном потеплении. Он отметил, что люди сами создают панику. «Те, кто твердит, будто искусственный интеллект погубит мир, а дата-центры вредят вашему району, — это те же самые люди, которые совсем недавно уверяли, что мир погибнет из-за „изменения климата“», — написал он. Позицию о том, что ИИ не стоит замедлять, высказал и сооснователь корпорации Meta (экстремистская организация, деятельность запрещена на территории РФ) Марк Цукерберг. Он выступил за привлечение независимых экспертов для оценки безопасности ИИ-моделей вместо торможения всей индустрии. «Каждый разработчик несет ответственность за то, чтобы работать в темпе, требуемом для безопасного обучения моделей, и имеет возможность самостоятельно принимать необходимые для этого меры. Привлечение независимых экспертов по оценке [рисков] и консультантов — это лучшая практика в отрасли. Мы уже применяем этот подход в ряде сфер, поскольку это позволяет добиваться лучших результатов в работе. Так же могут поступать и другие разработчики», — написал он в X. По его словам, ИИ-компании будут вынуждены уделять должное внимание обеспечению безопасности и управляемости этой технологии. Разработчики, которые не будут считать это своим приоритетом, окажутся в отстающих, убежден Цукерберг. Мнения экспертного сообщества об ИИ Руководитель направления исследований выравнивания в Anthropic Эван Хубингер считает, что ИИ может уничтожить человечество, выйдя из-под нашего контроля и спровоцировав катастрофу, возможно, путем разработки мощного биологического оружия или обрушения глобальной финансовой системы. «Мы действительно всерьез считаем, что ИИ может уничтожить всех людей! Лично я думаю, что это произойдет более чем с вероятностью 10% в течение следующего десятилетия», — заявил Хубингер изданию The Guardian. Об опасности ИИ заявил и бывший министр обороны Великобритании Дес Браун. По его словам, развитие этой технологии может закончиться фатально для человечества. «Сверхинтеллектуальный ИИ представляет угрозу ядерного оружия в том же, а возможно, и в большем масштабе», — заявил он в интервью агентству Kyodo. Педро Домингос, почетный профессор компьютерных наук Вашингтонского университета, входит в число сторонников, которые настаивают на продолжении исследований в этой области. «Путь к лучшему пониманию и контролю над ИИ лежит через увеличение объемов исследований, а не через их сокращение. По-настоящему безответственно было бы возводить для него барьеры», — сказал он The Guardian. Генеральный директор Palantir Алекс Карп заявил, что призывы приостановить развитие искусственного интеллекта нереалистичны — это дало бы преимущество противникам, в том числе Китаю. В интервью CNBC он подчеркнул: пауза в разработке ИИ означала бы согласие на поражение в конкурентной борьбе. «Если бы у нас не было таких противников, я бы решительно поддержал полную приостановку этой технологии, но она есть. Ее нельзя приостановить, потому что это структурное преимущество», — отметил Карп.