Технический гигант Google запустил Инициативу AI Cyber Defense Initiative, чтобы использовать искусственный интеллект (ИИ) для повышения кибербезопасности и решения «дилеммы защитника», сообщила компания в своем блоге.
Ключевой инициативой в этом направлении является открытие исходного кода Magika, инструмента на базе искусственного интеллекта для идентификации типов файлов с целью обнаружения вредоносного ПО. Он уже используется для защиты нескольких продуктов Google. «Magika превосходит традиционные методы идентификации файлов, обеспечивая общее повышение точности на 30% и до 95% более высокую точность для традиционно трудно идентифицируемого, но потенциально проблемного контента, такого как VBA, JavaScript и Powershell», — говорится в сообщении в блоге Google.
«Собственный инструмент киберзащиты Google на базе искусственного интеллекта Magika с открытым исходным кодом имеет решающее значение для этой новой инициативы. Поскольку он уже эффективно используется для защиты Gmail, Google Диска и безопасного просмотра, сообщество разработчиков увидит ценность его использования для создания более целенаправленных инструментов защиты», — сказал Дипак Кумар, основатель-аналитик BMNxt Business and Market Advisory.
Google также объявила о создании новой группы искусственного интеллекта для кибербезопасности, состоящей из 17 стартапов из Великобритании, США и ЕС. «Это поможет укрепить трансатлантическую экосистему кибербезопасности с помощью стратегий интернационализации, инструментов искусственного интеллекта и навыков их использования», — говорится в блоге компании.
Компания также объявила о выделении 2 миллионов долларов на исследовательские гранты и стратегическое партнерство для поддержки исследований в нескольких институтах, включая Чикагский университет, Карнеги-Меллон и Стэнфорд. Google также расширит свою программу семинаров по кибербезопасности Google.org стоимостью 15 миллионов долларов, чтобы охватить всю Европу. Программа поддерживает университеты в подготовке следующего поколения экспертов по кибербезопасности из недостаточно обслуживаемых сообществ.
Инициатива AI Cyber Defense Initiative основана на Google Secure AI Framework (SAIF), которую Google запустил в прошлом году для снижения рисков, связанных с системами искусственного интеллекта, таких как «кража модели, отравление данных обучения, внедрение вредоносных входных данных посредством быстрого внедрения и извлечение конфиденциальной информации из обучающих данных».
«Технологии искусственного интеллекта являются многообещающими не только для предприятий и частных лиц, но также для синдикатов киберпреступности и злоумышленников. Таким образом, механизмы киберзащиты должны быстро стать сверхсложными в процессе их масштабирования», — сказал Кумар. «Крупным высокотехнологичным корпорациям предстоит сыграть большую конструктивную роль в создании необходимых инструментов и сервисов, и инициатива Google очень своевременна. Такие предложения могут помочь предприятиям, особенно небольшим, и пользователям технологий лучше защищаться от многих новых кибератак, генерируемых искусственным интеллектом», — добавил он.
Дилемма защитника – это сложная ситуация, с которой сталкиваются защитники, когда их активы становятся более масштабными и привлекательными для нападающих. В этом сценарии защитники должны защищать каждую потенциальную зону атаки, в то время как злоумышленникам нужно найти только одну точку входа для компрометации. Особенно актуален этот вопрос в сфере информационной безопасности, где с этими сложностями часто сталкиваются руководители служб безопасности. Однако Google предложил использовать искусственный интеллект (ИИ), чтобы потенциально преодолеть эту дилемму.
В Google заявили, что верят, что искусственный интеллект может решить дилемму защитника, поскольку он «позволяет специалистам по безопасности и правозащитникам масштабировать свою работу по обнаружению угроз, анализу вредоносных программ, обнаружению уязвимостей, устранению уязвимостей и реагированию на инциденты».
При этом в Google отметили, что добиться этого непросто. «Изменение дилеммы защитника – это амбициозная цель, и ее достижение ни в коем случае не гарантировано. Злоумышленники будут работать так же усердно, чтобы подорвать эти усилия», — говорится в документе Google «Безопасность, расширение возможностей, продвижение: как ИИ может обратить вспять дилемму защитника».