Microsoft, WinBeta
В связи с тем, что технология распознавания лиц развертывается все более быстрыми темпами, как на предприятиях, так и в государственных учреждениях и потребителях, президент и главный юридический отдел Microsoft Брэд Смит призвал технологические компании отрасли соблюдать свои этические обязанности, а также призвал правительства должны создавать правила, и Microsoft считает, что это создаст более здоровую отрасль в конкурентной среде.
Обсуждается в Блог Microsoft «О проблемах» , Брэд Смит излагает свои и Microsoft мысли о распознавании лиц и о том, что необходимо решить.
Смит рассмотрел положительные моменты, которые могут принести достижения в области лицевых технологий, такие как поиск пропавшего ребенка или помощь полиции в выявлении террориста, или даже помощь в повседневной жизни с помощью смартфона и приложения, чтобы помочь слепому узнать, кто только что пришел на встречу. комната.
Некоторые появляющиеся применения являются как положительными, так и потенциально даже серьезными. Представьте, что вы нашли пропавшего без вести ребенка, узнав ее, когда ее гуляют по улице. Представьте, что вы помогаете полиции идентифицировать террориста, стремящегося к разрушению, когда он выходит на арену, где вы посещаете спортивное мероприятие. Представьте себе камеру смартфона и приложение, которое сообщает слепому человеку имя человека, который только что вошел в комнату, чтобы присоединиться к встрече.
Однако эта технология, как и большинство других вещей, имеет свои недостатки, и именно здесь Смит хочет, чтобы правительство и технологические компании приняли меры. Некоторые из проблем, которые могут произойти, а в некоторых случаях уже возникают, включают:
- Правительства записывают везде, где вы идете
- База данных людей, пришедших на политический митинг
- Магазины делятся информацией о каждой полке, на которую вы смотрите, и о товарах, которые вы покупаете, не спрашивая
Но другие потенциальные применения более отрезвляют. Представьте себе правительство, отслеживающее всюду, куда вы ходили за последний месяц, без вашего разрешения или ведома. Представьте себе базу данных всех, кто присутствовал на политическом митинге, который составляет самую суть свободы слова. Представьте себе магазины торгового центра, использующие распознавание лиц, чтобы делиться друг с другом информацией о каждой полке, которую вы просматриваете, и о продукте, который вы покупаете, не спрашивая вас заранее. Это давно стало предметом научной фантастики и популярных фильмов, таких как «Доклад меньшинства», «Враг государства» и даже «1984», но теперь это становится возможным.
Компания считает, что необходима «единая нормативная база». Это поможет создать здоровую отрасль, обеспечивая при этом соблюдение этических обязательств, и создать равные условия, в соответствии с которыми все компании будут знать правила, которым они должны следовать, что, в свою очередь, создаст стабильность для отрасли. Обрисовывая некоторые проблемы, которые необходимо решать правительствам и компаниям, Смит говорит:
- Должно ли правоохранительные органы использовать распознавание лиц под надзором и контролем со стороны человека, включая ограничения на использование технологии распознавания лиц без посторонней помощи в качестве доказательства вины или невиновности человека в совершении преступления?
- Аналогичным образом, должны ли мы обеспечить гражданский надзор и ответственность за использование распознавания лиц как часть государственной практики в области технологий национальной безопасности?
- Какие виды правовых мер могут предотвратить использование распознавания лиц для расового профилирования и других нарушений прав, при этом позволяя выгодное использование технологии?
- Должно ли использование функции распознавания лиц государственными или другими органами ограничиваться минимальными уровнями точности?
- Должен ли закон требовать, чтобы розничные торговцы размещали заметные уведомления об использовании ими технологии распознавания лиц в общественных местах?
- Должен ли закон требовать от компаний получения предварительного согласия перед сбором изображений людей для распознавания лиц? Если да, то в каких ситуациях и местах это должно применяться? И как лучше всего запросить и получить такое согласие?
- Должны ли мы гарантировать, что люди имеют право знать, какие фотографии были собраны и сохранены, на которых были идентифицированы их имена и лица?
- Должны ли мы создавать процессы, предоставляющие юридические права лицам, которые считают, что они были ошибочно идентифицированы системой распознавания лиц?
Проблемы Microsoft с технологией распознавания лиц были недавно подчеркнуты во время скандала, посвященного разделению детей-иммигрантов, в котором Microsoft обвиняли в помощи с технологией распознавания лиц для ICE. Компания заявила, что ее контракт не включает технологию распознавания лиц и что она не оказывала помощи в отделении детей от семей иммигрантов.
Теги Microsoft
