Ученые назвали проблемы внедрения ИИ в науку и образование

Нейросетям стали доверять все больше задач: от простого поиска и анализа информации до автоматизации некоторых рутинных процессов. Это происходит в том числе и в науке. Но как ИИ влияет на научный прогресс уже сегодня и сможет ли он генерировать принципиально новое знание? Журналист NGS.RU поговорила с учеными, чтобы выяснить, как изменилась их профессиональная деятельность в связи с появлением искусственного интеллекта и почему вообще не использовать ИИ в научной сфере больше не получается. «Хуже будет тем, кто ИИ использует неумело и бездумно» Ни для кого уже не секрет, что искусственный интеллект активно внедряется везде — в том числе и в научной среде. Сейчас нейросетям стали доверять поиск и анализ информации для научных статей. Но возникла проблема: ИИ нередко буквально выдумывает факты и совершает серьезные ошибки. По словам Ильи Бетерова, доцента кафедры квантовой электроники физического факультета НГУ и старшего научного сотрудника Института физики полупроводников СО РАН, любой ответ искусственного интеллекта (вне зависимости от его языковой модели) требует дополнительной проверки. «Мы всегда имеем некую вероятность получения правильного ответа, и это означает, что результат всегда требует верификации. Нужно быть готовым к тому, что убедительно написанный и правдоподобный ответ может оказаться ложным. Но это бывает с результатами любой интеллектуальной деятельности», — признал ученый. С ним согласился и Владислав Корчуганов, младший научный сотрудник лаборатории обработки и анализа сейсмических данных НОЦ «Газпронефть-НГУ». ИИ, как и человек, способен ошибаться, делать необоснованные выводы, а еще чрезмерно обобщать, отметил он. «Хорошее исследование проходит независимое рецензирование ещё до публикации. Поэтому статья, подготовленная с помощью ИИ, в идеале должна проходить ровно те же процедуры проверки, что и статья, написанная человеком. То есть появление ИИ не отменяет научный метод — наоборот, чем проще становится генерировать тексты, гипотезы и результаты, тем важнее становится независимая проверка того, что из этого действительно верно», — подчеркнул эксперт. При этом ИИ уже можно использовать для проверки научных гипотез, обработки экспериментальных данных, а также в изучении методов смежных областей науки. Более того, в ближайшие годы конкурентоспособность в научных исследованиях будет зависеть как раз от эффективного использования языковых моделей искусственного интеллекта. «Кто его не использует, будет обречен на отставание. Еще хуже будет тем, кто его использует неумело и бездумно», — убежден Илья Бетеров. Рядовые исследователи с использованием искусственного интеллекта смогут делать то, для чего обычно требуется привлечение сразу нескольких высококвалифицированных специалистов — это особенно важно в быстро развивающихся областях науки, в которых нельзя положиться на результаты, полученные десятилетия назад. Возможности человека в анализе информации объективно ограничены, признал Владислав Корчуганов. Сегодня по одной научной теме могут выходить тысячи публикаций в год на разных языках — прочитать и осмыслить всё физически невозможно. В результате исследователи из разных стран могут заниматься похожими задачами и даже не знать о существовании работ друг друга. Именно в такой ситуации ИИ становится незаменимым помощником: он может быстро просматривать сотни статей, выделять главное, находить связи между исследованиями и помогать понять, куда стоит направить внимание. При этом в научных экспериментах влияние ИИ пока не очень велико, добавил Илья Бетеров. Хотя предполагается, что в ближайшем будущем методы искусственного интеллекта начнут более широко использоваться для автоматизации эксперимента. Изменится и подход к сбору данных — он станет более адаптивным и менее рутинным. При этом ученый считает, что пока неясно, может ли нейросеть генерировать принципиально новое знание. «Что не вызывает сомнений — это нахождение нетривиальных решений различных оптимизационных задач. На мой взгляд, это расширяет возможности исследователя, искусство которого заключается в правильной формулировке задачи и интерпретации результата», — уверен физик. Проблема не в студенте — проблема в задании Наука неразрывно связана с образовательным процессом. По мнению Владислава Корчуганова, искусственный интеллект меняет систему образования так быстро, что она сама едва ли успевает адаптироваться к этим самым изменениям. «Нужно менять масштаб и сложность задач, а вместе с ними и критерии оценки. Проверять не то, способен ли студент написать код или текст без ИИ, а понимает ли он полученный результат, способен ли найти в нём ошибку, улучшить его и использовать для решения более сложной проблемы. Если нейросеть за минуту решает наше учебное задание — значит, проблема уже не в студенте, проблема в самом задании», — заметил эксперт. По его словам, ИИ фактически поднимает планку того, что преподаватель вообще может требовать от студента. Ценностью постепенно становится не просто получение правильного ответа, а понимание этого ответа, его проверка и способность «пойти» с ним дальше. Доцент кафедры квантовой электроники физического факультета Илья Бетеров тоже считает, что нынешняя система образования оказалась не готова к внедрению искусственного интеллекта. Она построена по принципу воспроизведения знаний и решения типовых задач — ИИ уже справляется с этим вполне успешно. «Представьте ситуацию, когда студентов много лет оценивали бы по умению быстро производить арифметические операции с очень большими числами, и вдруг появляются калькуляторы. При этом возникают очевидные проблемы, когда студенты могут с помощью искусственного интеллекта получить правильные ответы, а дать им правильную интерпретацию уже не могут, поскольку для этого нужны базовые знания, — объяснил он. — Пока неясно, как перестраивать массовое образование». Сам физик придерживается гибридного метода работы: совместного творческого процесса, когда студенты должны получить новые научные результаты с использованием искусственного интеллекта для генерации программного кода и описания физики исследуемых явлений. Парадокс искусственного интеллекта Всё это может несколько фрустрировать, но, по мнению Владислава Корчуганова, ИИ скорее умножает число научных идей, чем сокращает их разнообразие. «На нашем веку мы, вероятно, столкнёмся не с дефицитом, а с настоящим изобилием идей, в котором учёным ещё предстоит научиться разбираться. Возможно, сама роль учёного постепенно сместится от расширения фронтира науки к аккуратному встраиванию новых „пазлов“, найденных ИИ, в общую картину мира», — считает он. По сути, ИИ дошёл до состояния, когда способен находить неожиданные решения и заходить в области, до которых человеческая мысль ещё просто не успела добраться. При этом полностью доверяя искусственному интеллекту поиск и первичный анализ литературы, исследователь частично делегирует ему и формирование собственного научного взгляда. «Если многие ученые будут пользоваться одними и теми же моделями, это может привести к так называемой „гомогенизации исследований“ — ситуации, когда идеи и направления постепенно начинают усредняться, — пояснил Владислав Корчуганов. — Получается парадокс: ИИ способен сильно расширить информационный горизонт отдельного ученого, но при неправильном использовании одновременно сузить разнообразие науки в целом». Он отмечает, что важно как можно скорее перестать воспринимать искусственный интеллект как простой чат-бот. Современный ИИ — это рабочая единица, которой можно делегировать полноценные задачи: от простых напоминаний о днях рождениях бабушек и дедушек до обработки, анализа и систематизации больших объемов научных данных. «Главный навык будущего — не умение красиво разговаривать с нейросетью, а умение правильно ставить ей задачи, контролировать результат и понимать, что стоит делегировать машине, а что необходимо оставить за человеком», — уверен ученый. В начале июля президент подписал первый закон, регулирующий отношения в сфере разработки, внедрения и применения больших фундаментальных моделей искусственного интеллекта. Мы рассказывали о том, почему нейросеть не сможет заменить живого психолога. Рассуждения экспертов о том, почему эффективность таких разговоров сомнительна, можно почитать здесь.