21 декабря 2025 г. Сергей Гарбук, председатель ТК 164 / МТК 566 «Искусственный интеллект», и.о. директора Всероссийского института научной и технической информации Российской академии наук, к.т.н., стал гостем авторской научно-познавательной программы «Картина мира с Михаилом Ковальчуком».
Автором и ведущим программы является Президент НИЦ «Курчатовский институт», д. ф.-м. н. Михаил Ковальчук.
Эфир программы от 21 декабря 2025 г. был посвящен искусственному интеллекту (ИИ), в том числе перспективам его развития, и тому, как государственная стандартизация позволит исключить риски, связанные с применением ИИ с неподтвержденной функциональной корректностью.
Эфир программы от 21 декабря 2025 г. был посвящен искусственному интеллекту (ИИ), в том числе перспективам его развития, и тому, как государственная стандартизация позволит исключить риски, связанные с применением ИИ с неподтвержденной функциональной корректностью.
О деятельности Технического комитета № 164 «Искусственный интеллект»
На вопрос ведущего о причинах создания ТК 164 Сергей Гарбук отметил, что Технический комитет был создан по инициативе Росстандарта в 2019 г., через год после того, как возник соответствующий международный подкомитет ISO (прим. автора подкомитет SC42 «Artificial Intelligence» Объединённого технического комитета Международной организации по стандартизации и Международной электротехнической комиссии ISO/IEC JTC 1 «Information Technologies»).
«Мы с коллегами понимали, что в области ИИ отсутствует единство измерений в хорошем метрологическом смысле. Невозможно унифицированным способом сопоставить функциональные возможности двух систем, которые решают одну и ту же задачу, например, распознают лица или речь. Невозможно сравнить возможности интеллектуальной технической системы с интеллектуальными способностями человека-оператора…»
Об отличии национального и международного подхода к стандартизации ИИ
Далее Сергей Гарбук рассказал о комплексе из 170 национальных стандартов в сфере ИИ, которые были разработаны в рамках ТК 164. Отвечая на вопрос ведущего относительно соответствия национальных стандартов общемировым, он отметил:
«…там, где речь идет о терминологии, форматах представления данных, совместимости, интероперабельности систем, мы ориентируемся на мировые практики, но в части разработки единых унифицированный методов испытаний технологий ИИ мы идем своим путем. Наши документы, которые устанавливают требования к испытаниям различных технологий ИИ, выгодно отличаются от мировых и опережают их»
Также гость программы подчеркнул, что национальные стандарты с аспектом «методы испытаний» включают в себя тестовые наборы данных, которые демонстрируют, в каких условиях, при какой вариативности сценариев необходимо испытывать ту или иную систему. Такие стандарты разработаны в отраслях здравоохранения, сельского хозяйства, образования, транспорта и др.
Об оценке соответствия технологий ИИ
Сергей Гарбук отметил, что наличие документов, унифицирующих методы испытаний, формализующих предусмотренные условия эксплуатации (уровень освещенности, наличие и виды осадков и т.д.) той или иной технологии, позволяет разобраться в инцидентах безопасности, найти ответственного. Особую значимость в этом процессе приобретает проведение сертификационных испытаний технологий ИИ, которые позволяют оценить их функциональную корректность в определенных (предусмотренных) условиях эксплуатации.
«Без описания предусмотренных условий эксплуатации технологий ИИ ответственное отношение между поставщиком и потребителем невозможно»
В ходе эфира также были затронуты вопросы создания пространства технологического доверия на уровне БРИКС, преодоления мирового энергетического кризиса, получения данных из неисчерпаемых источников, т.е. непосредственно из природы (в связи с тем, что в настоящее время 70-80% данных, которые могу быть предоставлены для обучения алгоритмов ИИ, исчерпаны), нехватки компонентной базы.
Посмотреть выпуск можно здесь.