Регуляторы обсуждают концепцию тестирования ИИ на духовно‑нравственные ценности.
На августовском совещании по регулированию искусственного интеллекта обсуждалась концепция тестов и эталонов для оценки ИИ на соответствие духовно‑нравственным ценностям.
По данным участников совещания и близких к Минцифры источников.
Такие тесты должны проверить соответствие ИИ «духу времени и ценностям страны».
Детали проекта пока на стадии концепции.
На совещании ФСБ настаивали на том, чтобы данные для тестов не были публичными и чтобы разработчики не могли легко подстроить модели под тест.
Представитель бизнеса отметил, что закрытый датасет может оказаться слишком сложным для прохождения и замедлить развитие моделей.
Был предложен компромисс: для тестирования будут использовать как закрытые, так и открытые данные с разными формулировками вопросов.
Контекст: в конце июля президент подписал закон о суверенных и национальных моделях ИИ, которые должны соответствовать законам России и духовно‑нравственным ценностям.
