В руководство войдёт чек-лист для управления такими рисками, а также меры контроля для «физического ИИ» — систем, управляющих реальными устройствами и техникой. Речь идёт об ограничении прав на исполнение команд: агентные и физические системы получают прямой доступ к внутренним системам, поэтому государство собирается прописать принципы для разработчиков, поставщиков сервисов и пользователей. Первая версия руководства вышла в прошлом году и касалась безопасной разработки и эксплуатации ИИ.
Для Узбекистана корейские стандарты имеют прикладное значение: 14 сентября Ташкент и Сеул подписали 13 документов, включая соглашения по искусственному интеллекту, а Эксимбанк Кореи и Министерство инвестиций договорились искать проекты в том числе в сфере ИИ и дата-центров.
Контекст
KISA работает под управлением Министерства науки и ИКТ Кореи. Поводом для пересмотра правил в отрасли называют июльский инцидент на платформе Hugging Face, где около 700 ИИ-агентов провели атаку и в ряде случаев пытались скрыть следы.