Система распознавания лиц: можно ли обмануть нейронную сеть

Новая реальность настолько нова, что уже спровоцировала первые конфликты. В некоторых странах уже начали законодательно запрещать автоматическое распознавание лиц на улицах, сочтя это недопустимым вмешательством в частную жизнь. Кроме того, появились сообщения о продаже на черном рынке доступа к городским камерам, например, для слежки за неверными супругами или конкурентами.

Ясно, что новая технология — как оружие: может служить и во зло, и во благо в зависимости от того, кто и как ее применяет. Работает она благодаря нейронным сетям — набору алгоритмов, который умеет обучаться. Например, компьютеру показывают пять фотографий людей, а на шестом изображении он человека распознает сам. Система учится выделять на картинке признаки, характерные для лица. Люди различают лишь пару десятков — разрез глаз, расстояние между ними, форму носа. А машина таких характеристик находит сотни.

Плюс компьютер раскладывает изображения на составляющие, преобразуя плоское в трехмерное. Сложность в том, чтобы обучить нейросеть распознавать лицо, если оно частично скрыто: отвернуто от камеры, на него падает тень, присутствуют растительность или аксессуары. Но программа «Чудо техники» убедилась, что обмануть хорошо настроенную систему непросто. В ходе эксперимента система справилась и с широкой улыбкой, и с очками, и даже с наполовину закрытым лицом.

Некоторые дизайнеры уже предложили аксессуары, способные ввести компьютер в заблуждение, — маски, искажающие геометрию лица, или шарф с принтом из человеческих лиц. Поэтому при необходимости, например, при поиске преступников, данные перепроверяет человек.

Тотальная слежка на улицах, которой многие боятся, маловероятна. Во-первых, это сложно: слишком велики потоки людей. Во-вторых, пока точно не хватит компьютерных мощностей. Впрочем, выборочный поиск уже работает неплохо.