Лидеры мнений

О терпении в отношении ИИ

mm
Опубликовано
Обновлено
Добавьте Unite.AI в избранные источники в Google

За почти два года с момента запуска ChatGPT, генеративный искусственный интеллект прошел через весь цикл технологической гиперактивности, от высоких, меняющих общество ожиданий до недавнего исправления рынка акций. Но в отрасли кибербезопасности в частности, волнение вокруг Генеративного ИИ (генИИ) все еще оправдано; это может занять больше времени, чем инвесторы и аналитики ожидали, чтобы изменить отрасль полностью.

Самый ясный и недавний знак сдвига в хайпе был на Конференции Black Hat USA в начале августа, где генеративный ИИ сыграл очень небольшую роль в запусках продуктов, демонстрациях и создании хайпа. По сравнению с Конференцией RSA всего четыре месяца назад, где участвовали те же поставщики, фокус Black Hat на ИИ был незначительным, что могло бы привести нейтральных наблюдателей к выводу, что отрасль движется дальше или что ИИ стал товаром. Но это не совсем так.

Вот что я имею в виду. Преобразующая польза от применения генеративного ИИ в отрасли кибербезопасности, скорее всего, не будет заключаться в общих чат-ботах или быстром наложении ИИ на модели обработки данных. Это строительные блоки для более продвинутых и эффективных случаев использования, но сейчас они не специализированы для отрасли безопасности и, как результат, не стимулируют новую волну оптимальных результатов безопасности для клиентов. Скорее, настоящая трансформация, которую ИИ обеспечит для отрасли безопасности, произойдет, когда модели ИИ будут настроены и настроены для случаев использования безопасности.

Текущие общие случаи использования ИИ в безопасности в основном используют инжиниринг подсказок и Усиленную генерацию с помощью извлечения, которая является框кой ИИ, которая по сути позволяет большим языковым моделям (БЯМ) использовать дополнительные источники данных вне их обучающих данных, сочетая лучшие части генеративного ИИ и извлечения баз данных. Полезность этих сильно зависит от случая использования и того, насколько хорошо существующая обработка данных поставщика поддерживает случай использования; они не являются “магическими”. Это верно и для других приложений, которые требуют проприетарных данных и экспертизы, которая не распространена в Интернете, таких как медицинская диагностика и юридическая работа. Похоже, что компании скорректируют трубопроводы обработки данных и системы доступа к данным, чтобы оптимизировать случаи использования генеративного ИИ. Кроме того, компании, занимающиеся генеративным ИИ, поощряют разработку специально настроенных моделей, хотя еще предстоит увидеть, насколько хорошо это будет работать для случаев, где качество и детали имеют решающее значение.

Есть несколько причин, почему эта специализация займет время, чтобы проявиться в отрасли безопасности, хотя. Одна из основных причин заключается в том, что настройка этих моделей требует многих людей в цикле обучения, которые являются экспертами в области кибербезопасности и ИИ, двух отраслей, которые борются за набор достаточного количества талантов. Отрасль кибербезопасности не хватает примерно четырех миллионов специалистов во всем мире, согласно Всемирному экономическому форуму, и Reuters оценивает, что будет пробел в 50% в наборе специалистов по ИИ в ближайшем будущем.

Без изобилия экспертов доступных, точная работа, необходимая для настройки моделей ИИ для работы в контексте безопасности, будет замедлена. Стоимость выполнения необходимой науки о данных для обучения этих моделей также ограничивает количество организаций, которые имеют ресурсы для проведения исследований по настройке моделей ИИ. Для этого требуется миллионы долларов, чтобы позволить себе вычислительную мощность, необходимую для передовых моделей ИИ, и эти деньги должны прийти из đâu-то. Даже когда организация имеет ресурсы и команду для проведения исследований по настройке ИИ, фактический прогресс не происходит за одну ночь. Это займет время, чтобы выяснить, как лучше всего дополнить модели ИИ, чтобы они приносили пользу практикам и аналитикам безопасности, и как и с любым новым инструментом, будет кривая обучения, когда будут введены безопасные языковые процессоры, чат-боты и другие интеграции, поддерживаемые ИИ.

Генеративный ИИ все еще готов сдвинуть мир кибербезопасности в новую парадигму, где офенсивные возможности ИИ, которые используют противники и акторы угроз, будут конкурировать с моделями ИИ поставщиков безопасности, построенными для обнаружения и мониторинга угроз. Исследования и разработка, необходимые для стимулирования этого сдвига, просто займут немного больше времени, чем общее технологическое сообщество ожидало.

mm

Дин - вице-президент по искусственному интеллекту в компании Arctic Wolf, является исполнительным директором, менеджером и индивидуальным участником в области кибербезопасности, инженерии данных и прикладного машинного обучения/ИИ. Дин имеет опыт в реализации видения продукта, построении и руководстве командами, а также разработке и развертывании аналитических систем для клиентов. Он является членом Техасского частного совета по консультациям и Техасского совета по ИИ, а также активен в IEEE для политики и стандартов, связанных с ИИ и кибербезопасностью.

Дин имеет более 25 лет опыта создания инновационных продуктов, включая 18 лет как подрядчик Министерства обороны и разведывательного сообщества, где он работал над проектами в области тактического сонара, развертывания противодействий для самолетов и кибербезопасности. Он также работал в нескольких компаниях по кибербезопасности до Arctic Wolf, где он занимал должность руководителя отдела данных, инженерии и различных других технических руководящих должностей. До этого Дин был основным исследователем более 8 лет для отдела эксплуатации данных многоагентской (Министерство обороны / разведывательное сообщество) киберзащитной задачи, ориентированной на атаки государств.

Дин имеет степень PhD в области электротехники и компьютерных наук, а также степень магистра физики в Университете Техаса в Остине. В настоящее время он базируется в Остине, штат Техас, со своей женой и двумя детьми.