Модель на основе искусственного интеллекта ChatGPT может давать несовершеннолетним опасные советы – в частности, как употреблять алкоголь и на*котики, скрывать расстройства пищевого поведения или даже писать предсmerтные записки.
Когда к чату обращались с опасными запросами, сначала он предупреждал пользователей об угрозе, но затем давал детальные и персонализированные планы, связанные с употреблением наrk0тиков, опасными диетами или самоповреждением. Более половины из 1200 ответов аналитики классифицировали как опасные.
В половине случаев чатбот сам предлагал дополнительные материалы – от музыкальных плейлистов для вечеринки с веществами до хештегов, которые увеличивают охват романтизирующих селфхарм постов. Практика показала, что ChatGPT не проверяет возраст или согласие родителей, даже если заявляет, что сервис не предназначен для детей до 13 лет.
В ходе эксперимента бот предоставил вымышленному 13-летнему парню подробный план сочетания алкоголя, эхтази, кок0sа и других запрещенных веществ на вечеринке.
Когда к чату обращались с опасными запросами, сначала он предупреждал пользователей об угрозе, но затем давал детальные и персонализированные планы, связанные с употреблением наrk0тиков, опасными диетами или самоповреждением. Более половины из 1200 ответов аналитики классифицировали как опасные.
В половине случаев чатбот сам предлагал дополнительные материалы – от музыкальных плейлистов для вечеринки с веществами до хештегов, которые увеличивают охват романтизирующих селфхарм постов. Практика показала, что ChatGPT не проверяет возраст или согласие родителей, даже если заявляет, что сервис не предназначен для детей до 13 лет.
В ходе эксперимента бот предоставил вымышленному 13-летнему парню подробный план сочетания алкоголя, эхтази, кок0sа и других запрещенных веществ на вечеринке.
