Сделаны первые шаги к законодательному регулированию использования ИИ в образовании

В телеграм-канале Совета при президенте РФ по развитию гражданского общества и правам человека (СПЧ) сообщается, что руководитель Совета Валерий Фадеев договорился с главой Минцифры Максутом Шадаевым сформулировать правила и ограничения для использования ИИ в некоторых отраслях.

Максут Шадаев предложил начать именно со сферы образования — как «самой „фонящей“ темы». Подготовить предложения он пообещал в течение месяца. Предполагается ли для выработки этих предложений задействовать мнение экспертного сообщества, включая представителей образовательной сферы, а также проводить какие-либо исследования, не сообщается.

При этом там говорится о том, что на встрече представители СПЧ выделили главные проблемы, связанные с развитием нейросетей, среди которых:

• чрезмерный сбор персональных данных и их незаконный оборот;
• риски, связанные с тем, что новые цифровые технологии предположительно позволяют более тщательно следить за успехами и неудачами школьников, чтобы выстраивать траекторию их развития.

По второму пункту отмечается, что гуманистическая педагогика предполагает необходимость для ребёнка проявить себя в разных ипостасях и ситуациях. То есть, видимо, идея в том, что полезнее позволять ребёнку пробовать разные траектории, чем выстраивать ему одну наиболее подходящую под его способности. Заметим, что такая идея высказывается далеко не впервые. Причём касается она далеко не только школьного образования. В отношении онлайн-образования взрослых тоже есть мнение, что выстраивание взаимодействия человека только с тем образовательным контентом, который ему нравится, ограничивает его и делает обучение туннельным, — об этом упомянул в интервью Кирилл Прудников, экс-руководитель программ педагогических практик Skillbox, преподаватель курсов по педагогическому дизайну в МПГУ и МВШСЭН («Шанинка»).

Поводом к решению Валерия Фадеева и Максуда Шадаева разработать правила для использования ИИ стала недавно опубликованная в «Российской газете» статья председателя Конституционного суда РФ Валерия Зорькина под названием «Право и вызовы искусственного интеллекта». Автор пишет, что не позднее 2060 года нейросети превзойдут человека по интеллектуальным способностям. Он отмечает, что в целом он за то, чтобы «колоссальные аналитические возможности ИИ помогали человеку во многих областях его деятельности», но при этом очевидно, что это несёт в себе определённую опасность, так как ИИ может игнорировать то, что люди считают ценностно важным. В связи с этим Валерий Зорькин призвал к тому, чтобы искусственный интеллект внедряли осторожно и ввели законодательное регулирование этой сферы. Он предлагает руководствоваться двумя принципами:

• защита прав и свобод человека, а также создание благоприятных условий для его адаптации к цифровой экономике;
• противодействие противоправному использованию ИИ и устранение связанных с развитием ИИ рисков.

Кстати, тему регулирования ИИ в области образования обсуждают сейчас и на международной арене. Недавно Университет ООН и Международный институт высшего образования в Латинской Америке и Карибском бассейне, относящийся к структуре ЮНЕСКО, основали рабочую группу, которая займётся разработкой рекомендаций и глобальных руководящих принципов для использования потенциала ИИ в области высшего образования.

Предполагается, что академическое сообщество и агентства ООН объединятся для разработки этих принципов и рекомендаций, чтобы «максимально использовать потенциал ИИ в достижении устойчивого будущего, внимательно изучая воздействие ИИ на окружающую среду, трудоустройство и права человека». Заявляется, что при выработке рекомендаций и принципов стороны будут основываться на фактических данных и ориентироваться на исследования.

Подчёркивается необходимость обеспечить:

• инклюзивный доступ к ИИ для всех учащихся без увеличения технологического разрыва и ущерба для безопасности данных;
• инновационное использование ИИ для решения задач на пути к достижению устойчивого общества;
• этическое развитие ИИ, в основе которого должно быть соблюдение прав человека.

Планируется, что группа сосредоточится на вопросах трансформации обучения и преподавания, управления учебными заведениями, ведения исследований и разработок, коммуникации вузов с компаниями, которые разрабатывают системы ИИ, а также этике, безопасности и инклюзивности.

Напомним, не так давно в США разработали руководство для поставщиков образовательных технологий на основе ИИ. А в России эксперты представили три сценария внедрения ИИ в высшее образование.