Новый метод позволяет обходить системы распознавания лиц и выдавать себя за другого

12 обезьян

Местный
Подтвержденный
Сообщения
2.257
Реакции
6.408
Новая атака отличается от других состязательных атак тем, что только маскирует изображенного на фото человека, а не превращает его в кого-то другого.

1627829637900.png

Специалисты израильской компании Adversa AI, занимающейся разработкой технологий искусственного интеллекта (ИИ), представили новый метод обмана систем распознавания лиц путем добавления на фотографии так называемого шума. Этот шум представляет собой крошечные частички данных, которые невозможно увидеть невооруженным глазом, но которых вполне достаточно для того, чтобы заставить систему распознавания лиц поверить, будто на фото изображен другой человек. В частности, исследователи продемонстрировали, как им удалось заставить систему распознавания лиц PimEyes принять руководителя Adversa AI Алекса Полякова за Илона Маска.

Состязательные атаки (adversarial attacks) совершенствуются с каждым годом, равно как и способы защиты от них. Однако представленная Adversa AI атака под названием «Состязательный осьминог» (Adversarial Octopus) отличается от них по ряду причин.

Во-первых, Adversarial Octopus только маскирует изображенного на фото человека, а не превращает его в кого-то другого. Во-вторых, вместо добавления шума к данным изображения, на котором обучаются модели ИИ (так называемая атака отравления), новый метод предполагает внесение изменений в изображение, которое будет вводиться в систему распознавания лиц, и не требует внутренних знаний о том, как обучалась эта система.

Авторы Adversarial Octopus пока еще не опубликовала научную статью с полным объяснением атаки. Исследователи представят подробности о ней только по завершении процесса ответственного раскрытия уязвимости разработчикам систем распознавания лиц.


Источник
 

12 обезьян

Местный
Подтвержденный
Сообщения
2.257
Реакции
6.408

Per_Se

Местный
Сообщения
593
Реакции
587
Новый виток противостояния снаряда и брони
Вот только они на эту броню и работают. Данные о уязвимости им же передадут. Разве что сам факт ценен тем, что показывает, что бороться с этим возможно.
 
Сверху Снизу