Российские специалисты не верят опасениям сотрудников Google DeepMind и Anthropic вокруг ИИ - обсуждение новости

Бывшие сотрудники компаний Google DeepMind и Anthropic заявили, что искусственный интеллект может угрожать человечеству. Исследователь Билал Чугтай написал в соцсети, что у «ИИ есть потенциал убить нас всех», а другой разработчик Джейкоб Коксон обвинил создателей ИИ-моделей в «игре с нашими жизнями» ради сверхинтеллекта, который может «убить всех нас уже к концу десятилетия». «Ни одна компания не действует ответственно. Мы движемся по одному из наиболее радикальных сценариев, при котором уже к концу следующего года ситуация может выйти из-под контроля», — приводит слова Коксона американское издание Wall Street Journal. Исследователь Anthropic Джейкоб Коксон ушел из компании и решил покинуть индустрию искусственного интеллекта из-за опасений, что разработчики слишком быстро создают системы, способные самостоятельно совершенствоваться и в будущем выйти из-под контроля. 27-летний Коксон специализировался на обучении новых моделей ИИ на больших массивах данных. Коксон уверен, что конкуренция между разработчиками ИИ и китайскими компаниями неизбежно приводит к компромиссам в вопросах безопасности. Коксон опасается, что после начала самостоятельного совершенствования модели смогут развиться настолько, что перестанут выполнять команды людей. О рисках ускоренного развития ИИ предупреждал и гендиректор OpenAI Сэм Альтман. На саммите G20 в Северной Каролине он заявил: «Я думаю, что с кибербезопасностью кое-что пойдет очень не так, если люди не предпримут срочных мер». Главный научный сотрудник OpenAI Якуб Пачоцки также призвал к согласованному замедлению разработки ИИ и вмешательству государства. Коксон, Пачоцки и Амодеи вошли в число тысячи исследователей ИИ, подписавших заявление с призывом к международной координации и созданию механизмов для замедления разработки моделей, способных самостоятельно совершенствоваться. Ни Google, ни Anthropic обвинения комментировать не стали. Стоит ли бояться таких жутких предостережений? Об этом журналист MSK1.RU поговорил с Романом Душкиным, генеральным директором «А-Я эксперт», профессором МИПУ (Международный научно-исследовательский институт проблем управления). — Весь мир буквально взорвался после откровений бывших сотрудников Google и Anthropic? Нам, обывателям, точно стоит бояться? — Обыватель, человек тревожный, боится всего. Особенно когда журналисты подогревают эти страхи, потому что тревогу продать проще, чем что-то хорошее. Зачем из частных мнений уволившихся сотрудников раздувать катастрофу, мне, честно говоря, не очень понятно. Вообще, когда говорят, что искусственный интеллект уничтожит человечество, я не очень понимаю, что вообще имеется в виду. Искусственный интеллект — это кто или что? Это вот эта какая-то штуковина, которая завелась в огромной сети интернет и там злоумышляет против человечества? Или, как меня всю жизнь учили, искусственный интеллект — это наука, которая использует средства компьютерной техники, чтобы моделировать когнитивные процессы, которые мы наблюдаем у человека. — Ну, так простому человеку, когда говорят про ИИ, сразу вспоминается «Терминатор», где «Скайнет» развязала ядерную войну. — А почему вы вспоминаете не «Матрицу»? Или не фильм «Она», где главный герой влюбился в систему ИИ, и у них потом произошла драма, потому что куча других людей в нее тоже влюбилась. И она такая: «А что такого-то? Ну, я всем хочу помочь. Всем одиноким людям хочу помочь». Вообще, по-моему, если человечество кто-то и уничтожит, то только оно само себя. А вот какой инструмент для этого будет использован: искусственный интеллект, ядерные технологии или что-то другое? Я прошу прощения, но и у фармакологии есть потенциал уничтожить всё человечество. Согласны же? В принципе, у любой достаточно развитой технологии есть по большому счету такой потенциал. Но это не значит, что нужно бояться конкретно ИИ. — Кстати, вы почему-то не употребляете термин нейросеть. Задам дилетантский вопрос: а разве нейросеть и ИИ — это не одно и то же? — Нейросеть — это только один из тех подходов для моделирования, о которых я говорил. При этом делаются модели когнитивных процессов, чтобы затем эти модели изучать. Мы моделируем что-то и изучаем этот предмет, чтобы понять природу нашего собственного разума — тех когнитивных процессов, которые происходят у нас внутри головы. А то, что в процессе такого исследования появилось большое количество прикладных технологий, которые сегодня используются для решения задач автоматизации (или, как мы говорим, интеллектуализации) разных процессов — это же прекрасно. Ведь наука должна давать прикладной результат! — То есть обывательские страхи перед ИИ — это результат непонимания сущности технологий? — Вот мы начали с утверждения каких-то уволившихся сотрудников, будто бы ИИ уничтожит человечество. Да ведь в принципе неправильно говорить, что ИИ что-то там самостоятельно сделает. Это очеловечивание технологий — оно в глазах экспертов, инженеров настолько странно и убого выглядит. Да, когда на обывательском уровне появляются всякие страшилки, это от непонимания того, что вообще из себя представляет наука, технология, инженерия и так далее. Я поражаюсь, что сегодня любой человек, кто только вчера узнал, что такое искусственный интеллект, вдруг начинает выставлять себя экспертом в этой области.