Alin4kDoDo
Леди
Похоже, в ближайшем будущем информационную войну будут вести между собой машины. Ученые натренировали искусственный интеллект выявлять тексты, написанные другим искусственным интеллектом.
Дезинформация могут стать одной из главных проблем интернета. Еще в феврале мы сообщали о создании экспериментальной системы, способной массово генерировать правдоподобные новостные тексты на основе нескольких ключевых слов. Появление такой системы очень сильно напугало экспертов. Попади такой инструмент в руки каких-нибудь пропагандистов, он тут же превратится в мощнейший генератор информационного шума и фейковых новостей.
Но, как выясняется, что один ИИ сделал, то другой всегда распознать сможет. Ученые из Гарвардского университета и Массачусетского технологического института разработали алгоритм, работающий от обратного - он анализирует готовые тексты и определяет, были ли они написаны человеком, или сгенерированы другим алгоритмом
Суть в том, что ни одна из существующих в мире систем искусственного интеллекта пока не является “сильной”. То есть, ИИ-генератор не обладает сознанием в привычном смысле, не понимает значений слов и предложений, а лишь выстраивает поток слов в соответствии с определенным шаблоном. Все это очень напоминает знаменитый мысленный эксперимент “Китайская комната”, в котором алгоритм формирует лишь иллюзию связной мысли.
Новый ИИ-разоблачитель точно также не понимает значения слов и предложений. Но благодаря этому он может смотреть на текст не как на информационную единицу, а как на своеобразный “узор” из слов. Если в этом узоре прослеживается четкий шаблон, значит, его сформировала машина.
Пока точность системы составляет лишь 72%, но и это лучше, чем ничего. Вероятно, в скором будущем эта разработка ляжет в основу браузерных расширений или других решений, которые будут помогать пользователям продираться сквозь дебри неправдивой информации.
Дезинформация могут стать одной из главных проблем интернета. Еще в феврале мы сообщали о создании экспериментальной системы, способной массово генерировать правдоподобные новостные тексты на основе нескольких ключевых слов. Появление такой системы очень сильно напугало экспертов. Попади такой инструмент в руки каких-нибудь пропагандистов, он тут же превратится в мощнейший генератор информационного шума и фейковых новостей.
Но, как выясняется, что один ИИ сделал, то другой всегда распознать сможет. Ученые из Гарвардского университета и Массачусетского технологического института разработали алгоритм, работающий от обратного - он анализирует готовые тексты и определяет, были ли они написаны человеком, или сгенерированы другим алгоритмом
Суть в том, что ни одна из существующих в мире систем искусственного интеллекта пока не является “сильной”. То есть, ИИ-генератор не обладает сознанием в привычном смысле, не понимает значений слов и предложений, а лишь выстраивает поток слов в соответствии с определенным шаблоном. Все это очень напоминает знаменитый мысленный эксперимент “Китайская комната”, в котором алгоритм формирует лишь иллюзию связной мысли.
Новый ИИ-разоблачитель точно также не понимает значения слов и предложений. Но благодаря этому он может смотреть на текст не как на информационную единицу, а как на своеобразный “узор” из слов. Если в этом узоре прослеживается четкий шаблон, значит, его сформировала машина.
Пока точность системы составляет лишь 72%, но и это лучше, чем ничего. Вероятно, в скором будущем эта разработка ляжет в основу браузерных расширений или других решений, которые будут помогать пользователям продираться сквозь дебри неправдивой информации.
Последнее редактирование:
