Исследователь создал изображение, которое при умном ресайзе превращается в другое

Информационная безопасность Обработка изображений Машинное обучение Искусственный интеллект
Исследователь безопасности рассказал о том, как работают так называемые « атаки масштабирования изображений ». Он смог скрыть в одной картинке совершенно иное изображение, которое проявляется при изменении размера исходника.

Суть самой атаки заключается в том, что злоумышленник создает вредоносное входное изображение и скрывает его внутри другой картинки. Когда она загружается на сервер, то размер изображения меняется, и сервер принимает решения уже на основе скрытой целевой картинки.

Исследователь использовал два изображения. Слева находится исходник, а справа —модифицированная картинка.



При ближайшем рассмотрении на втором изображении видны точки, но в уменьшенном варианте их невозможно заметить.

Когда модифицированное изображение загружается и изменяется с помощью OpenCV с настройками по умолчанию, оно превращается в совершенно иную картинку.

Исследователь задействовал Husky AI . Данный алгоритм использует OpenCV.

Он разместил код на Github. Для запуска использовался Google Colab. См. также:


« Исследователи ИИ обнаружили предел распикселизации лиц на фото. Дальше алгоритм «придумывает» лицо »
« Исследователи сделали первую в мире цифровую фотографию с разрешением 3200 мегапикселей »
« Склеиваем несколько фотографий в одну длинную с помощью компьютерного зрения »)
Теги:
Хабы: