Представители ФБР заявили в среду, что они подходят к вопросу искусственного интеллекта со смешанным чувством энтузиазма относительно его потенциала для защиты сетей США и осторожностью относительно необходимости гарантий от неправомерного использования, а также относительно того, как противники могут использовать ИИ против нас.
Джонатан Ленцнер, руководитель аппарата директора ФБР Кристофера Рэя, заявил на конференции Международной ассоциации специалистов по защите конфиденциальности в Вашингтоне, округ Колумбия, что ФБР рассматривает ИИ с нескольких точек зрения: опережение угроз, защита инноваций в США и создание структуры управления для этичного использования ИИ в ведомстве.
Синтия Кайзер, заместитель помощника директора киберотдела ФБР, заявила на той же конференции, что ФБР «очень воодушевлено потенциалом [искусственного интеллекта] для повышения безопасности сетей по всей Америке и наших союзников». Но есть также опасения, что злоумышленники «могут использовать его, чтобы отравить наши модели ИИ» и «снизить уровень безопасности сетей или масштабировать свои операции», добавила она.
Бюро уже использует собственные инструменты машинного обучения в дополнение к коммерческим, но в вопросах генеративного ИИ ФБР выступает скорее как пользователь, чем как разработчик, отметила Кайзер. По её словам, без надлежащего тестирования и оценки широкоязыковых моделей генеративного ИИ существует вероятность того, что ИИ может внести предвзятость или другие недостатки.
По словам Кайзер, для наборов данных с открытым исходным кодом или коммерческих данных ИИ может помочь в решении таких задач, как перевод в бюро. Для других задач, таких как создание индивидуальных представлений в наборах данных ФБР, например, информации, полученной из повесток, им придётся обучить данные на основе «этих базовых моделей», добавила она.
Кайзер заявил, что в рамках процесса оценки этичности использования ИИ бюро задаётся рядом вопросов: какова его цель? В чём его польза? Перевешивают ли преимущества риски? Какие меры контроля конфиденциальности предусмотрены? Кто отслеживает и использует ИИ? Кто будет его проверять? Как выявляются ошибки? Кроме того, бюро должно согласовать свою структуру управления со структурой разведывательного сообщества, отметил Ленцнер.
Использование ИИ в ФБР также может подразумевать сотрудничество с другими ведомствами, сказала Кайзер. Если сбор информации осуществляется в рамках законного процесса, бюро «предпочтёт сохранить конфиденциальность», добавила она. Но иногда, например, для выявления инфраструктуры киберконсультаций, бюро использует инструменты других ведомств или может объединять наборы данных ФБР и разведывательного сообщества.
По словам Кайзера, ФБР также использует ИИ для анализа тысяч ежедневных сообщений, используя модели обработки естественного языка. Эти модели могут сообщать сотрудникам о сообщениях, требующих принятия мер. Ленцнер также отметил, что бюро может обратить использование ИИ преступниками против них самих, например, рассматривая возможность введения дополнительных наказаний за преступления, раскрытие которых было усовершенствовано с помощью ИИ.
В январе FedScoop сообщил , что бюро вступило в фазу «начального» использования программного обеспечения для анализа изображений и видео Rekognition от Amazon, которое стало предметом споров из-за его возможностей распознавания лиц. Однако бюро не сообщило, какие ограничения оно может наложить на использование этой технологии.
Кайзер рассказал CyberScoop, что в целом при разработке примеров возможного использования они также устанавливают ограничения, оставаясь при этом в постоянном контакте с главным юрисконсультом, чтобы определить, как можно применять инструменты в соответствии с законами США.
«Но я не думаю, что мы уже готовы» сделать это с использованием Amazon Rekognition, сказала она. «Мы всё ещё находимся на подготовительном этапе».
Джонатан Ленцнер, руководитель аппарата директора ФБР Кристофера Рэя, заявил на конференции Международной ассоциации специалистов по защите конфиденциальности в Вашингтоне, округ Колумбия, что ФБР рассматривает ИИ с нескольких точек зрения: опережение угроз, защита инноваций в США и создание структуры управления для этичного использования ИИ в ведомстве.
Синтия Кайзер, заместитель помощника директора киберотдела ФБР, заявила на той же конференции, что ФБР «очень воодушевлено потенциалом [искусственного интеллекта] для повышения безопасности сетей по всей Америке и наших союзников». Но есть также опасения, что злоумышленники «могут использовать его, чтобы отравить наши модели ИИ» и «снизить уровень безопасности сетей или масштабировать свои операции», добавила она.
Бюро уже использует собственные инструменты машинного обучения в дополнение к коммерческим, но в вопросах генеративного ИИ ФБР выступает скорее как пользователь, чем как разработчик, отметила Кайзер. По её словам, без надлежащего тестирования и оценки широкоязыковых моделей генеративного ИИ существует вероятность того, что ИИ может внести предвзятость или другие недостатки.
По словам Кайзер, для наборов данных с открытым исходным кодом или коммерческих данных ИИ может помочь в решении таких задач, как перевод в бюро. Для других задач, таких как создание индивидуальных представлений в наборах данных ФБР, например, информации, полученной из повесток, им придётся обучить данные на основе «этих базовых моделей», добавила она.
Кайзер заявил, что в рамках процесса оценки этичности использования ИИ бюро задаётся рядом вопросов: какова его цель? В чём его польза? Перевешивают ли преимущества риски? Какие меры контроля конфиденциальности предусмотрены? Кто отслеживает и использует ИИ? Кто будет его проверять? Как выявляются ошибки? Кроме того, бюро должно согласовать свою структуру управления со структурой разведывательного сообщества, отметил Ленцнер.
Использование ИИ в ФБР также может подразумевать сотрудничество с другими ведомствами, сказала Кайзер. Если сбор информации осуществляется в рамках законного процесса, бюро «предпочтёт сохранить конфиденциальность», добавила она. Но иногда, например, для выявления инфраструктуры киберконсультаций, бюро использует инструменты других ведомств или может объединять наборы данных ФБР и разведывательного сообщества.
По словам Кайзера, ФБР также использует ИИ для анализа тысяч ежедневных сообщений, используя модели обработки естественного языка. Эти модели могут сообщать сотрудникам о сообщениях, требующих принятия мер. Ленцнер также отметил, что бюро может обратить использование ИИ преступниками против них самих, например, рассматривая возможность введения дополнительных наказаний за преступления, раскрытие которых было усовершенствовано с помощью ИИ.
В январе FedScoop сообщил , что бюро вступило в фазу «начального» использования программного обеспечения для анализа изображений и видео Rekognition от Amazon, которое стало предметом споров из-за его возможностей распознавания лиц. Однако бюро не сообщило, какие ограничения оно может наложить на использование этой технологии.
Кайзер рассказал CyberScoop, что в целом при разработке примеров возможного использования они также устанавливают ограничения, оставаясь при этом в постоянном контакте с главным юрисконсультом, чтобы определить, как можно применять инструменты в соответствии с законами США.
«Но я не думаю, что мы уже готовы» сделать это с использованием Amazon Rekognition, сказала она. «Мы всё ещё находимся на подготовительном этапе».
