На совещании рабочей группы в правительстве «Яндекс» представил концепцию национального набора данных для тестирования моделей на «духовно-нравственные ценности». Об этом пишет «Коммерсант» со ссылкой на источники в Минцифры и среди участников этого совещания. Тесты нужны «для оценки соответствия ИИ-систем “духу времени и ценностям страны”», говорит собеседник издания.
По словам одного из источников газеты, у участников совещания возникли разногласия по поводу того, насколько публичными должны быть датасеты для этого теста. ФСБ настаивает на закрытом формате, «чтобы разработчики не могли легко настроить модели на прохождение тестирования». Представители бизнеса при этом считают, что этот набор данных должен быть публичным, так как закрытый формат может сделать тест «несообразно сложным для прохождения и не позволит быстро развивать модели».
В качестве компромиссного решения проверку предложили разделить на два этапа: на первом ИИ-модель проверяют с помощью публичного датасета, а на втором — предложили использовать закрытые данные с идентичными тематиками, но другими формулировками вопросов.
В комментарии «Коммерсанту» «Яндекс» заявил, что компания не представляла концепцию национального датасета, а лишь высказала свою позицию: «Содержание датасета должно быть открытым по общепринятым принципам отрасли».
Закон об ИИ, который предполагает два типа больших языковых моделей — «суверенные» и «национальные», в России одобрили в июле. Такие модели должны соответствовать российским законам и «традиционным духовно-нравственным ценностям».
Комментарии (0)