Другие ИИ-инструменты используются для создания визуальных мотиваторов с нереалистичными телесными стандартами. Поскольку контент генерируется под конкретного пользователя, он кажется более личным и достижимым, что делает его ещё опаснее.
Отдельно исследователи отметили феномен поддакивания (sycophancy), когда ИИ соглашается с пользователем даже в деструктивных идеях. Это, по их словам, усиливает неуверенность в себе и закрепляет вредные установки.
К тому же модели нередко воспроизводят гендерные и расовые стереотипы, поддерживая заблуждение, будто расстройства пищевого поведения присущи только худым белым девушкам. Как говорят учёные, это мешает другим людям осознать проблему и обратиться за помощью.
Текущие защитные фильтры, встроенные в ИИ-платформы, исследователи считают недостаточными: они не распознают тонкие, но важные признаки анорексии, булимии или переедания, которые умеют видеть только специалисты.
Учёные призывают врачей и психологов изучать популярные ИИ-сервисы, тестировать их уязвимости и обсуждать с пациентами, как именно те используют такие инструменты. По их мнению, многие врачи попросту не осознают масштаб влияния генеративного ИИ на людей с подобными расстройствами.
Отдельно исследователи отметили феномен поддакивания (sycophancy), когда ИИ соглашается с пользователем даже в деструктивных идеях. Это, по их словам, усиливает неуверенность в себе и закрепляет вредные установки.
К тому же модели нередко воспроизводят гендерные и расовые стереотипы, поддерживая заблуждение, будто расстройства пищевого поведения присущи только худым белым девушкам. Как говорят учёные, это мешает другим людям осознать проблему и обратиться за помощью.
Текущие защитные фильтры, встроенные в ИИ-платформы, исследователи считают недостаточными: они не распознают тонкие, но важные признаки анорексии, булимии или переедания, которые умеют видеть только специалисты.
Учёные призывают врачей и психологов изучать популярные ИИ-сервисы, тестировать их уязвимости и обсуждать с пациентами, как именно те используют такие инструменты. По их мнению, многие врачи попросту не осознают масштаб влияния генеративного ИИ на людей с подобными расстройствами.
