Брандмауэр для искусственного интеллекта (ИИ), добавленный к Cloudflare Web Application Firewall (WAF), предназначен для предотвращения эксплуатации моделей ИИ, в частности генеративного ИИ.

Cloudflare внедрила в свой брандмауэр веб-приложений (WAF) новую возможность, получившую название «Брандмауэр для ИИ», ориентированную на модели ИИ, с целью добавить уровень защиты для больших языковых моделей (LLM).

Эта возможность, специально разработанная для приложений, использующих LLM, будет содержать набор существующих и новых инструментов WAF для анализа отправленных запросов и выявления попыток эксплуатации.

«Брандмауэр для ИИ не зависит от конкретной инфраструктуры и может быть развернут перед моделями, размещенными в Cloudflare Workers AI, или моделями, размещенными в любой другой сторонней инфраструктуре — при условии, что трафик передается через Cloudflare WAF», — сказал представитель Cloudflare. «Клиенты смогут контролировать и настраивать межсетевой экран для ИИ с помощью средств управления WAF».

Cloudflare Workers AI — это открытая платформа искусственного интеллекта с оплатой по мере использования, которая позволяет разработчикам запускать модели машинного обучения в сети Cloudflare из собственного кода. Кроме того, Cloudflare анонсировала новую программу Защитного ИИ, которая будет использовать эту технологию для борьбы с растущим числом атак на основе ИИ, касающихся API, электронной почты и инсайдерских инцидентов.

Защита от DoS и утечки данных

Новое предложение межсетевого экрана специально разработано для клиентов, использующих ИИ на Cloudflare Workers AI, для защиты от таких проблем, как быстрые иньекции и утечка данных. Он будет сканировать и оценивать запросы, отправленные пользователем, чтобы заблокировать эксплуатацию модели и попытки извлечь данные.

Эта возможность разрабатывается путем использования комбинации эвристики и собственных уровней искусственного интеллекта для выявления злоупотреблений и угроз.

«Брандмауэр для ИИ защитит от отказа в обслуживании и раскрытия конфиденциальной информации, используя инструменты и функции, доступные всем клиентам как часть брандмауэра веб-приложений», — заявил представитель Cloudflare. «Брандмауэр для ИИ также будет запускать серию обнаружений, предназначенных для выявления попыток быстрых инъекций кода и других злоупотреблений — например, гарантируя, что тема остается в границах, определенных владельцем модели».

По словам представителя, брандмауэр для оперативной проверки ИИ в настоящее время находится в стадии разработки, а бета-версия будет выпущена в ближайшие месяцы.

Защитный ИИ для обнаружения аномального поведения

В рамках новой программы Defensive AI Cloudflare работает над моделями на основе искусственного интеллекта, чтобы анализировать конкретные модели клиентского трафика и создавать базовые показатели нормального поведения, чтобы помочь обнаружить любые аномалии в различных средах, включая API, электронную почту и доступ сотрудников.

«Защитный ИИ — это основа, которую Cloudflare использует, размышляя о том, как интеллектуальные системы могут повысить эффективность решений безопасности», — сказал представитель Cloudflare. «Cloudflare использует искусственный интеллект для повышения уровня защиты во всех областях безопасности, начиная от безопасности приложений и электронной почты и заканчивая платформой Cloudflare Zero Trust».

По словам представителя Cloudflare, модели искусственного интеллекта адаптированы для конкретного приложения, поэтому защита API использует модели, отличные от электронной почты или нулевого доверия. Хотя реализация может отличаться, концепции схожи — например, адаптация модели к структуре трафика конкретных клиентов или определение базового уровня нормального поведения и использование его для выявления аномалий.

Хотя Firewall for AI уже доступен клиентам Cloudflare с момента запуска, модели Defensive AI в настоящее время находятся в стадии разработки, и компания еще не объявила дату запуска.

Источник: https://www.csoonline.com/article/1311264/cloudflare-adds-new-waf-features-to-prevent-hackers-from-exploiting-llms.html

Ваша реакция?
+1
0
+1
1
+1
3
+1
0
+1
0
+1
0
+1
0
4 1 голос
Рейтинг статьи
Подписаться
Уведомить о
guest

0 комментариев
Межтекстовые Отзывы
Посмотреть все комментарии
0
Оставьте комментарий! Напишите, что думаете по поводу статьи.x
Enable Notifications OK No thanks