В Рф разработают испытания для проверки ИИ на соответствие обычным ценностям
В Рф дискуссируют создание государственного датасета для оценки систем искусственного ума. В него войдут контрольные задания и эталонные данные, которые проверят свойство моделей, их пригодность для русских критерий и соответствие духовно-нравственным ценностям. Обсуждение прошло 13 августа на совещании рабочей группы по регулированию ИИ, пишет Коммерсантъ.
Бенчмарк дозволит ассоциировать модели по единым аспектам. Такие наборы включают не только лишь вопросцы с готовыми ответами, да и прикладные задания – к примеру, обработку инфы из базы данных либо подготовку отчета.
Основным предметом спора стала доступность тестов. Представители ФСБ (Федеральная служба безопасности Российской Федерации — федеральный орган исполнительной власти Российской Федерации, осуществляющий в пределах своих полномочий решение задач по обеспечению безопасности Российской Федерации) поддержали закрытый формат, при котором создатели не знают задания и не настраивают модели специально под проверку. ИТ-компании выступили за публикацию датасета: непрозрачные аспекты усложнят тестирование и замедлят выпуск новейших версий моделей.
В качестве компромисса участники предложили поделить проверку на два шага. Открытый набор заданий создатели употребляют для подготовительной оценки, закрытый – для финишного тестирования. Оба датасета обхватят однообразные темы, но будут содержать различные формулировки.
Специалисты также направили внимание на разницу меж техническими и ценностными заданиями. В арифметике либо программировании существует конкретный ответ. Оценка соответствия духовно-нравственным принципам просит системы критериев и роли профессионалов.
Содержание бенчмарка еще не определено. ИТ-сообщество предложило сделать совместную комиссию с ролью страны, бизнеса и экспертных организаций. В аппарате вице-премьера Дмитрия Григоренко сказали, что инициативу дискуссируют с отраслью и заинтересованными ведомствами. Минцифры продолжает консультации с компаниями по подзаконным актам к закону о ИИ.
Сначало Коммерсантъ сказал, что теорию государственного датасета представил Yandex. Опосля выхода материала компания опровергла эту информацию. В Yandex’е заявили, что участвовали в общей рабочей встрече вкупе с иными компаниями и поддержали открытость содержания датасета.
Ранее сделалось понятно, что ИИ поднялся на 2-ое пространство посреди основных угроз для бизнеса.