- Платформа Character.ai повідомила про зміни у внутрішній політиці.
- Користувачі віком до 18 років втратять доступ до відкритих чатів.
- Для неповнолітніх створять окремий сервіс із дозволеним контентом.
Команда проєкту Character.ai заявила про те, що обмежить доступ до відкритих чатів для неповнолітніх користувачів. Нововведення набуде чинності з 25 листопада 2025 року.
Зазначимо, Character.ai — це платформа, де користувачі можуть створювати і взаємодіяти з різними чат-ботами. Ключовою особливістю є те, що автор може задати характер, патерн поведінки і стиль спілкування ШІ.
Однак, судячи з нової заяви команди проєкту, неповнолітні втратять відкритий доступ до всіх чат-ботів на платформі. Починаючи з 30 жовтня і до 25 листопада час, який такі користувачі можуть проводити в листуванні з ШІ, буде поступово скорочуватися з двох годин на добу до повної заборони.
Водночас розробники працюють над розділом, де будуть розміщені «дозволені» чат-боти. У рамках цієї політики на платформі також з’явиться механізм підтвердження віку, частиною якого стане сервіс Persona.
Також у релізі анонсовано створення некомерційної організації AI Safety Lab. Вона зосередиться на розробці нових методів забезпечення безпеки під час взаємодії зі ШІ.
Зміни в політиці в компанії пояснили занепокоєнням щодо того, який ефект ШІ може чинити на дітей і підлітків. Команда Character.ai ухвалила таке рішення після ретельної консультації з наглядовими органами, юристами та батьками неповнолітніх користувачів.
Зазначимо, у лютому 2024 року 14-річний підліток Сьюелл Сетцер III покінчив життя самогубством. Він тривалий час спілкувався з чат-ботом на платформі Character.ai, створеним на кшталт персонажа циклу «Пісня льоду і вогню» Дейенеріс Таргарієн.
Підліток надсилав у бесіду, зокрема, повідомлення романтичного і сексуального характеру. Він також ділився з чат-ботом думками про суїцид.
У жовтні 2024 року його мати Меган Гарсія подала позов проти Character.ai. Компанія домагалася його скасування, але суддя дав справі хід. У вересні 2025 року розробники зіткнулися зі ще одним позовом.
Раніше ми повідомляли про те, що понад 1 млн щотижня діляться з ChatGPT, чат-ботом від OpenAI, думками про суїцид. Щоб уникнути трагічних випадків, фірма зробила його більш співчутливим.
