Бесплатные ИИ-сервисы часто имеют недостаточный уровень защиты данных.
Источник:
В России набирает популярность новый вид мошенничества, в котором аферисты сочетают методы социальной инженерии с возможностями искусственного интеллекта.
Внимательное изучение пользовательского соглашения помогает понять, как обрабатываются ваши данные в ИИ-сервисах.
Источник:
Владислав Тушканов, руководитель группы исследований технологий машинного обучения «Лаборатории Касперского», детально описал, как злоумышленники применяют ИИ на всех этапах кибератаки — от первого контакта с жертвой до создания вредоносного кода.
«Мы регулярно фиксируем использование ИИ для создания фишинговых страниц, написания программ-вымогателей (например, FunkSec), а также инструментов для продвинутых целевых атак, подобных операциям группы Bluenoroff», — рассказал Владислав Тушканов.
Особую опасность представляют дипфейки — поддельные видео- или аудиосообщения, сгенерированные нейросетями. Мошенники активно используют их для кражи персональных данных и денежных средств.
Риски возникают не только из-за действий злоумышленников, но и при обычном использовании ИИ-сервисов. Утечки конфиденциальной информации возможны даже на официальных платформах.
«Причинами могут быть как кибератаки, так и ошибки в архитектуре или конфигурации сервисов, — продолжил эксперт. — Крупные ИТ-компании следят за безопасностью, но пользователи нередко обращаются к малоизвестным сервисам или бесплатным версиям чат-ботов, уровень защиты которых может быть ниже».
«Проблема в том, что такие сервисы часто не раскрывают информацию о политике конфиденциальности. Если их создатели окажутся недобросовестными, данные пользователя могут быть скомпрометированы», — добавил Владислав Тушканов.
Следует помнить, что любая информация, введённая в чат-бот, теоретически может использоваться провайдером сервиса — например, для обучения и улучшения алгоритмов.
Эксперт привёл случай, когда сайт, предлагавший доступ к ChatGPT, публиковал переписки пользователей в открытом доступе. «Поэтому при работе с ИИ-сервисами важно задавать себе вопрос: является ли информация, которую я загружаю, конфиденциальной и критичной для меня или моей компании?»
Чтобы минимизировать риски, не передавайте чат-ботам конфиденциальные корпоративные данные. Также рекомендуется соблюдать базовые правила кибербезопасности:
- Активируйте двухфакторную аутентификацию везде, где это возможно.
- Избегайте переходов по подозрительным ссылкам в сообщениях.
- Применяйте уникальные сложные пароли и используйте менеджеры паролей.
- При получении аудио- или видеосообщений с просьбой о финансовых действиях проверяйте личность собеседника, чтобы исключить дипфейк.
В качестве примеров дипфейков можно отметить фальшивые видеоролики с мэром Екатеринбурга Алексеем Орловым и губернатором Свердловской области Денисом Паслером.
