Нейросети в России проверят на духовность и нравственность

По данным издания, IT-компании с одобрения Минцифры смогут передавать данные о своих моделях в независимую испытательную лабораторию. Там с помощью специальных бенчмарков оценят ответы нейросети, а также проверят ее устойчивость к попыткам обхода внутренних ограничений.

Проверка не будет обязательной для всех. Речь только о моделях, которые хотят получить статус «суверенной» или «национальной» и вместе с ним доступ к госзакупкам, данным государственных систем и другим преференциям. Закон об ИИ, принятый 26 июля, вводит эти статусы, но детали регулирования еще предстоит прописать подзаконными актами.

Отдельный акт о духовно-нравственных ценностях разрабатывать не планируют — их перечень уже закреплен указом президента. Вместо этого совместно с бизнесом создадут методику оценки. Разработчик сначала сам проверит модель, а аккредитованная лаборатория выборочно перепроверит ее. Окончательное решение останется за Минцифры. Безопасность для госсистем будут оценивать ФСБ и ФСТЭК (Федеральная служба по техническому и экспортному контролю).

По материалам: «Ведомости».