Время на прочтение: < 1 мин
10 марта 2021 г. прошло заседание Экспертного совета по ИИ, посвященное теме объяснимого искусственного интеллекта, в котором приняли участие 24 представителя со стороны Роскомнадзора, ФГУП «ГРЧЦ» и ряда внешних организаций.
Докладчики осветили тенденции в развитии и регулировании ИИ, попытки минимизации рисков использования систем на базе ИИ, их специфику. В отношении интерпретируемого ИИ было отмечено, что повышение интерпретируемости ведет к снижению качества решений, принятых ИИ; рассмотрена типология объяснимого ИИ для глубоких нейронных сетей.
В ходе круглого стола представители научного и экспертного сообщества запросили у ФГУП «ГРЧЦ» имеющиеся датасеты для разработки новых более эффективных методов выявления целевого контента.
Кроме того, эксперты порекомендовали оценить возможность создания датасетов по интерпретируемости, проводить хакатоны на закрытых внутренних серверах для работ по выявлению запрещенной информации.
Эксперты считают необходимым в процессе разработки и эксплуатации систем с ИИ сохранять баланс между интерпретируемостью и качеством получаемого результата, а также уделять особое внимание инструментам выявления и анализа ошибок в работе интерпретируемого ИИ.
