Увеличение загрузки данных в генеративный ИИ
Загрузка данных в приложения генеративного искусственного интеллекта (ГенИИ) стремительно возросла, увеличившись в 30 раз за последний год. Это тревожная тенденция, о которой сообщила компания Netskope в своем недавнем отчете о угрозах в облаке ГенИИ на 2025 год. Согласно данным отчета, пользователи предприятий все чаще передают в ГенИИ конфиденциальные данные, такие как пароли, ключи безопасности и интеллектуальная собственность. Это создает реальный риск нарушений соблюдения норм и серьезных утечек данных. Важно понимать, что безопасная загрузка данных в приложения генеративного ИИ требует строгого соблюдения правил кибербезопасности.
Проблема усугубляется тем, что загрузка данных в приложения генеративного ИИ часто происходит через неутвержденные корпоративные инструменты ГенИИ, а прибегают к так называемому “теневому ИТ”. Как отметил Джеймс Робинсон, главный специалист по информационной безопасности в Netskope, “несмотря на усилия организаций по внедрению управляемых инструментов ГенИИ, около трех четвертей пользователей все еще получают доступ к приложениям ГенИИ через личные аккаунты”. Это подчеркивает необходимость внедрения усовершенствованных возможностей безопасности данных, чтобы команды по управлению безопасностью и рисками могли восстановить контроль и видимость использования ГенИИ в своих организациях.
Необходимость адаптации стратегий безопасности в эпоху генеративного ИИ
Согласно отчету Netskope, многие организации не имеют представления о том, как обрабатываются и используются данные из ГенИИ, и предпочитают политику “сначала заблокировать, а потом задавать вопросы”, вместо того чтобы понять, как пользователи взаимодействуют с ИИ и данными компании. Ари Гигюре, вице-президент по безопасности и операциям разведки в Netskope, отметил, что стремительное развитие ИИ меняет подходы компаний к ведению бизнеса и к угрозам, с которыми они сталкиваются. “ИИ не просто переосмысливает безопасность периметра и платформы — он переписывает правила игры”, — сказал он.
Он также добавил: “Поскольку злоумышленники создают угрозы с генеративной точностью, оборона должна быть столь же генеративной, развиваясь в реальном времени, чтобы противостоять возникающей ‘инфляции инноваций’. Эффективная борьба с креативным человеческим противником всегда будет требовать креативного человеческого защитника, но на поле боя, где доминирует ИИ, только защищенная ИИ безопасность может идти в ногу с изменениями”.
Адаптация стратегий безопасности
В свете этих обстоятельств компании должны переосмыслить свои стратегии безопасности и адаптироваться к новым вызовам, которые приносит генеративный искусственный интеллект. Важно не только внедрять новые технологии, такие как загрузка данных в приложения генеративного ИИ, но и обеспечивать безопасность данных и соблюдение норм, чтобы минимизировать риски утечек и нарушений. В противном случае стремительный рост использования ГенИИ может обернуться серьезными последствиями для бизнеса и его репутации.
Источник: Cyber Daily