30 декабря ФБР подписало с Clearview AI соглашение о предоставлении лицензии на использование технологии распознавания лиц компании по подписке стоимостью 18 000 долларов. Хотя стоимость контракта может показаться каплей в море по сравнению с бюджетом агентства, составляющим почти 10 миллиардов долларов, он имел важное значение, поскольку укрепил отношения агентства с этой скандальной фирмой. Ранее ФБР признало использование Clearview AI в Счетной палате США, но не уточнило, был ли у него контракт с этой компанией.
ФБР не ответило на запрос о комментарии, но это не единственное федеральное правоохранительное агентство, которое в последние месяцы увеличило закупки частных технологий распознавания лиц. В сентябре Служба иммиграционного и таможенного контроля США потратила почти 4 миллиона долларов на технологию распознавания лиц у компании Trust Stamp, как впервые сообщил Business Insider . В том же месяце агентство приобрело контракт с Clearview AI по начальной цене в 500 000 долларов с потенциалом увеличения до 1,5 миллиона долларов. В целом, инвестиции ICE в Clearview AI за время правления Байдена выросли более чем вдвое, сообщил Джек Поулсон, исполнительный директор некоммерческой организации Tech Inquiry.
Эти контракты демонстрируют, что, несмотря на растущую обеспокоенность со стороны законодателей, регулирующих органов и защитников гражданских свобод по поводу опасности технологии распознавания лиц, федеральные правоохранительные органы не заинтересованы в отказе от этих технологий. Вместо этого они активно развивают частное партнёрство с компаниями, чьи базы данных фотографий граждан по объёму превосходят государственные.
Фактически, CyberScoop выявил более 20 контрактов с федеральными правоохранительными органами на общую сумму более 7 миллионов долларов, в описании которых упоминалось распознавание лиц, или с компаниями, основным продуктом которых является технология распознавания лиц, с июня, когда государственный надзорный орган опубликовал отчёт с предупреждением об этой технологии. Даже эта цифра, составленная на основе базы данных государственных контрактов, созданной некоммерческой организацией Tech Inquiry и подтверждённая данными о федеральных контрактах, вероятно, неполна. В контрактах на закупки часто используются неточные описания, а иногда истинный бенефициар контракта скрывается за статусом субподрядчика.
Такое отсутствие прозрачности особенно примечательно в свете июньского отчёта Счётной палаты США, в котором установлено, что 13 федеральных агентств, обеспечивающих соблюдение закона, включая ФБР, не отслеживают, какие нефедеральные системы с технологией распознавания лиц используют их сотрудники. Если агентства не знают, какие системы используют их сотрудники, они не могут гарантировать, что эти технологии прошли проверку ведомством на точность.
Это вызывает серьёзную обеспокоенность, когда речь заходит о технологии распознавания лиц. Исследование, проведённое федеральным правительством в 2019 году, выявило значительно больше ложноположительных срабатываний при использовании технологии распознавания лиц в отношении чернокожих и азиатов по сравнению с белыми мужчинами. Даже несмотря на небольшие улучшения в последние годы, защитники гражданских свобод предупреждают, что она по-прежнему представляет серьёзный риск дискриминационного полицейского вмешательства. Эта технология также вызывает серьёзные опасения по поводу конфиденциальности при её широком внедрении. Clearview AI, впервые прошедшая федеральное тестирование на точность в октябре , привлекла предварительное внимание, создав свою базу данных путём сбора миллионов изображений из социальных сетей без ведома пользователя . Facebook, Twitter и YouTube потребовали, чтобы Clearview AI прекратила эту практику.
Компания Clearview отказалась комментировать критику в адрес технологии, однако генеральный директор Хоан Тон-Тат сообщил CyberScoop в своем заявлении по электронной почте: «Отрадно, что искусственный интеллект Clearview был использован для идентификации участников беспорядков в Капитолии, которые напали на наш великий символ демократии».
Законодатели также выразили опасения по поводу неконтролируемого использования технологий правоохранительными органами. В прошлом году демократы внесли законопроект, запрещающий федеральным органам использовать биометрические технологии без одобрения Конгресса и блокирующий финансирование правоохранительных органов штатов и местных органов власти, если они не примут собственные запреты. Отдельный законопроект, внесенный сенатором Роном Уайденом, демократом от штата Орегон, получивший двухпартийную поддержку, запрещает правоохранительным органам приобретать данные на коммерческой основе , для чего в противном случае потребовался бы ордер, включая базы данных, такие как Clearview AI. Пока ни один из законопроектов не был принят парламентом.
«Компания Clearview AI собрала миллионы личных фотографий американцев без их разрешения, чтобы создать огромную базу данных распознавания лиц», — заявил Уайден в заявлении для CyberScoop. «Крайне разочаровывает, что правительство решило оплачивать эту практику деньгами налогоплательщиков и использовать свою кредитную карту, чтобы лишить американцев прав, гарантированных Четвёртой поправкой».
Сторонники конфиденциальности утверждают, что, хотя недавний контракт ФБР проливает свет на его операции, он показывает, что прозрачность не замедляет пагубное воздействие этой технологии.
«В этом случае мы видим, что прозрачности недостаточно, поскольку теперь мы видим, что у ФБР есть контракт с Clearview, но это не делает никого безопаснее», — сказала Кейтлин Сили Джордж, директор кампании некоммерческой организации Fight for the Future.
Как показывает июньский отчет GAO, эта технология применялась против активистов и все чаще применяется частными компаниями, что приводит к доказательствам дискриминационных результатов, основанных на ложных совпадениях .
Но защитники конфиденциальности видят перспективы в других направлениях. Более 27 штатов и муниципалитетов ввели тот или иной запрет на использование распознавания лиц. Федеральная торговая комиссия и Управление по научно-технической политике Белого дома выразили заинтересованность в решении проблемы нарушения конфиденциальности, связанной с технологией распознавания лиц. Федеральная торговая комиссия недавно сообщила законодателям, что рассматривает варианты, включая разработку правил для регулирования потенциально дискриминационных алгоритмических технологий, включая программное обеспечение для распознавания лиц. Тем временем, OSTP разрабатывает «Билль о правах искусственного интеллекта» и проводит слушания с активистами по этому вопросу.
«Думаю, пару лет назад подобные разговоры вообще не велись, поэтому сам факт их проведения — хороший знак», — сказал Сили Джордж. «И в этих агентствах есть хорошие люди, которые заботятся о правах человека и хотят поступать правильно».
Тем не менее, эти шаги отстают от действий ряда стран-союзников, которые недавно предприняли оперативные меры по борьбе с Clearview AI. Расследования, проведённые правительствами Канады, Австралии и Великобритании , показали, что Clearview нарушила местные законы о конфиденциальности. В прошлом месяце французский регулятор в области защиты данных обязал компанию удалить пользовательские данные, собранные с нарушением законов Европейского союза о конфиденциальности данных.
Молчание администрации Байдена в отношении компании, особенно в свете ее активной борьбы с технологиями слежки, включая шпионское ПО , является «признаком того, что правительство несерьезно относится к вопросам конфиденциальности», — сказал Поулсон.
ФБР не ответило на запрос о комментарии, но это не единственное федеральное правоохранительное агентство, которое в последние месяцы увеличило закупки частных технологий распознавания лиц. В сентябре Служба иммиграционного и таможенного контроля США потратила почти 4 миллиона долларов на технологию распознавания лиц у компании Trust Stamp, как впервые сообщил Business Insider . В том же месяце агентство приобрело контракт с Clearview AI по начальной цене в 500 000 долларов с потенциалом увеличения до 1,5 миллиона долларов. В целом, инвестиции ICE в Clearview AI за время правления Байдена выросли более чем вдвое, сообщил Джек Поулсон, исполнительный директор некоммерческой организации Tech Inquiry.
Эти контракты демонстрируют, что, несмотря на растущую обеспокоенность со стороны законодателей, регулирующих органов и защитников гражданских свобод по поводу опасности технологии распознавания лиц, федеральные правоохранительные органы не заинтересованы в отказе от этих технологий. Вместо этого они активно развивают частное партнёрство с компаниями, чьи базы данных фотографий граждан по объёму превосходят государственные.
Фактически, CyberScoop выявил более 20 контрактов с федеральными правоохранительными органами на общую сумму более 7 миллионов долларов, в описании которых упоминалось распознавание лиц, или с компаниями, основным продуктом которых является технология распознавания лиц, с июня, когда государственный надзорный орган опубликовал отчёт с предупреждением об этой технологии. Даже эта цифра, составленная на основе базы данных государственных контрактов, созданной некоммерческой организацией Tech Inquiry и подтверждённая данными о федеральных контрактах, вероятно, неполна. В контрактах на закупки часто используются неточные описания, а иногда истинный бенефициар контракта скрывается за статусом субподрядчика.
Такое отсутствие прозрачности особенно примечательно в свете июньского отчёта Счётной палаты США, в котором установлено, что 13 федеральных агентств, обеспечивающих соблюдение закона, включая ФБР, не отслеживают, какие нефедеральные системы с технологией распознавания лиц используют их сотрудники. Если агентства не знают, какие системы используют их сотрудники, они не могут гарантировать, что эти технологии прошли проверку ведомством на точность.
Это вызывает серьёзную обеспокоенность, когда речь заходит о технологии распознавания лиц. Исследование, проведённое федеральным правительством в 2019 году, выявило значительно больше ложноположительных срабатываний при использовании технологии распознавания лиц в отношении чернокожих и азиатов по сравнению с белыми мужчинами. Даже несмотря на небольшие улучшения в последние годы, защитники гражданских свобод предупреждают, что она по-прежнему представляет серьёзный риск дискриминационного полицейского вмешательства. Эта технология также вызывает серьёзные опасения по поводу конфиденциальности при её широком внедрении. Clearview AI, впервые прошедшая федеральное тестирование на точность в октябре , привлекла предварительное внимание, создав свою базу данных путём сбора миллионов изображений из социальных сетей без ведома пользователя . Facebook, Twitter и YouTube потребовали, чтобы Clearview AI прекратила эту практику.
Компания Clearview отказалась комментировать критику в адрес технологии, однако генеральный директор Хоан Тон-Тат сообщил CyberScoop в своем заявлении по электронной почте: «Отрадно, что искусственный интеллект Clearview был использован для идентификации участников беспорядков в Капитолии, которые напали на наш великий символ демократии».
Законодатели также выразили опасения по поводу неконтролируемого использования технологий правоохранительными органами. В прошлом году демократы внесли законопроект, запрещающий федеральным органам использовать биометрические технологии без одобрения Конгресса и блокирующий финансирование правоохранительных органов штатов и местных органов власти, если они не примут собственные запреты. Отдельный законопроект, внесенный сенатором Роном Уайденом, демократом от штата Орегон, получивший двухпартийную поддержку, запрещает правоохранительным органам приобретать данные на коммерческой основе , для чего в противном случае потребовался бы ордер, включая базы данных, такие как Clearview AI. Пока ни один из законопроектов не был принят парламентом.
«Компания Clearview AI собрала миллионы личных фотографий американцев без их разрешения, чтобы создать огромную базу данных распознавания лиц», — заявил Уайден в заявлении для CyberScoop. «Крайне разочаровывает, что правительство решило оплачивать эту практику деньгами налогоплательщиков и использовать свою кредитную карту, чтобы лишить американцев прав, гарантированных Четвёртой поправкой».
Сторонники конфиденциальности утверждают, что, хотя недавний контракт ФБР проливает свет на его операции, он показывает, что прозрачность не замедляет пагубное воздействие этой технологии.
«В этом случае мы видим, что прозрачности недостаточно, поскольку теперь мы видим, что у ФБР есть контракт с Clearview, но это не делает никого безопаснее», — сказала Кейтлин Сили Джордж, директор кампании некоммерческой организации Fight for the Future.
Как показывает июньский отчет GAO, эта технология применялась против активистов и все чаще применяется частными компаниями, что приводит к доказательствам дискриминационных результатов, основанных на ложных совпадениях .
Но защитники конфиденциальности видят перспективы в других направлениях. Более 27 штатов и муниципалитетов ввели тот или иной запрет на использование распознавания лиц. Федеральная торговая комиссия и Управление по научно-технической политике Белого дома выразили заинтересованность в решении проблемы нарушения конфиденциальности, связанной с технологией распознавания лиц. Федеральная торговая комиссия недавно сообщила законодателям, что рассматривает варианты, включая разработку правил для регулирования потенциально дискриминационных алгоритмических технологий, включая программное обеспечение для распознавания лиц. Тем временем, OSTP разрабатывает «Билль о правах искусственного интеллекта» и проводит слушания с активистами по этому вопросу.
«Думаю, пару лет назад подобные разговоры вообще не велись, поэтому сам факт их проведения — хороший знак», — сказал Сили Джордж. «И в этих агентствах есть хорошие люди, которые заботятся о правах человека и хотят поступать правильно».
Тем не менее, эти шаги отстают от действий ряда стран-союзников, которые недавно предприняли оперативные меры по борьбе с Clearview AI. Расследования, проведённые правительствами Канады, Австралии и Великобритании , показали, что Clearview нарушила местные законы о конфиденциальности. В прошлом месяце французский регулятор в области защиты данных обязал компанию удалить пользовательские данные, собранные с нарушением законов Европейского союза о конфиденциальности данных.
Молчание администрации Байдена в отношении компании, особенно в свете ее активной борьбы с технологиями слежки, включая шпионское ПО , является «признаком того, что правительство несерьезно относится к вопросам конфиденциальности», — сказал Поулсон.
