Технологии искусственного интеллекта стремительно развиваются, но вместе с возможностями появляются и риски. Промпт-инъекции, злоупотребление инструментами агентов, уязвимости в оркестрации сложных систем – спектр угроз для ИИ увеличивается. Пока США и Китай соревнуются в эффективности и качестве генеративных моделей, европейцы принимают стандарты безопасности ИИ. В Европейском институте телекоммуникационных стандартов (ETSI) пару лет назад создали комитет защиты ИИ (SAI) для разработки комплексного набора стандартов безопасности ИИ. Рабочая группа комитета плодовита на отчеты, на текущий момент артефактов аж 10 штук. Разбираемся в первой части со стартовыми отчетами по безопаности ИИ от ETSI SAI.
Все статьи подряд / Информационная безопасность / Хабр