18 декабря 2023 г. Сергей Гарбук, Председатель ТК 164, директор по научным проектам НИУ ВШЭ, выступил в эфире телеканала "Про бизнес" в программе "Разрушители мифов кибербезопасности". Автором и ведущим программы является Алексей Марков, профессор МГТУ им. Н.Э. Баумана, президент ГК «Эшелон».
В ходе программы было затронуто много актуальных вопросов, касающихся применения искусственного интеллекта (далее - ИИ) в современном мире.
В ходе программы было затронуто много актуальных вопросов, касающихся применения искусственного интеллекта (далее - ИИ) в современном мире.
Chat GPT
Гость программы прокомментировал опасения, касающиеся использования нашумевшей нейронной сети ChatGPT. По мнению Сергея Гарбука, ChatGPT — яркий пример технического прогресса. Однако в связи с участившимися случаями использования данной нейронной сети в образовательных целях, обществу необходимо принять следующие меры:
«Теперь при тестировании людей (возьмем сдачу экзаменов выпускниками школ или университетов) необходимо учитывать, что у учащихся есть такого рода инструменты. Именно поэтому необходимо тáк изменять и совершенствовать процедуру тестирования человека, чтобы тестирование касалось именно знания человека так такового, а не «знания» того программного средства, которые он использует, например, при написании дипломной работы»
ПК 42
В ходе разговора также была затронута тема глобальных процессов в области ИИ. На вопрос ведущего о роли и месте Российской Федерации в исследовании, анализе и развитии ИИ, Сергей Гарбук ответил следующее:
«Весной 2018 года был создан подкомитет по искусственному интеллекту (SC 42 "Artificial intelligence", прим. ред.) в рамках объединенного технического комитета по информационным технологиям (ISO/IEC JTC 1, прим. ред.). <…> Примечательно, что решение о создании этого подкомитета принималось во Владивостоке во время заседания ISO в конце 2017 года. <…> С 2018 года данный подкомитет функционирует, наша страна принимает активное участие в его работе. На сегодняшний день разработано порядка 40 международных документов по стандартизации, которые регламентируют различные стороны процесса создания и применения ИИ. <…> У России есть определенная позиция — она заключается в следующем: независимо от того, где и кем была создана система ИИ, конечный потребитель, как раз благодаря стандартам, должен иметь возможность убедиться в функциональной корректности и безопасности этой системы, посредством объективных испытаний на месте»
СЗИ
Сергей Гарбук также поделился видением причины отсутствия в нашей стране резкого подъема в сфере интеллектуальных средств защиты информации (далее - СЗИ).
На его взгляд, одна из основных причин заключается в том, что в России на данный момент отсутствуют документы, которые регламентируют способы испытания и подтверждения качества СЗИ, основанных на методах машинного обучения.
На его взгляд, одна из основных причин заключается в том, что в России на данный момент отсутствуют документы, которые регламентируют способы испытания и подтверждения качества СЗИ, основанных на методах машинного обучения.
Вред ИИ
Отвечая на вопрос ведущего "способен ли ИИ навредить человечеству", гость программы отметил, что даже в самой постановке вопроса есть некорректность, ведь такого рода формулировка предполагает наличие свойства субъектности у ИИ, которым он априори не обладает:
«Цели и намерения есть у людей, которые создают и применяют технологии ИИ. Сами технологии ИИ, как таковые, намерениями и целями не обладают»
Для того, чтобы ознакомиться с выпуском программы, перейдите по следующей ссылке: https://disk.yandex.ru/d/S14r7QYc3hE45g
София Эфендиева