- Система штучного інтелекту помилково розпізнала пакет чипсів як пістолет.
- Старшокласника закували в кайданки та обшукали, перш ніж помилку було виявлено.
- Компанія Omnilert заявила, що інцидент «стався в рамках штатної процедури».
У середній школі Кенвуд штату Мериленд система безпеки на базі штучного інтелекту помилково визначила пакет Doritos за потенційну зброю, пишуть місцеві ЗМІ. Через помилковий сигнал одного з учнів затримали, поставили на коліна і закували в наручники.
Після цього школяра обшукали та тільки тоді з’ясували, що загрози не існує.
Інцидент стався, коли учень Такі Аллен проходив коридором, тримаючи пакет чипсів. За його словами, він просто витягнув руки вперед, і система ідентифікації загроз зафіксувала «об’єкт, схожий на пістолет». Співробітники служби безпеки миттєво відреагували, застосувавши заходи затримання.
Пізніше директор школи Кеті Сміт повідомила, що сигнал тривоги був скасований службою безпеки майже одразу. Однак вона не отримала повідомлення вчасно і встигла викликати шкільного інспектора, який, зі свого боку, звернувся в поліцію.
Що таке машинне навчання? Усе, що вам потрібно знати
07.10.2023
Компанія Omnilert, що постачає систему на базі штучного інтелекту, заявила, що шкодує про те, що трапилося, і висловила підтримку учневі та його родині. Проте в компанії зазначили, що «процес спрацював так, як був запрограмований».
Представники фірми наголосили, що їхні рішення призначені для мінімізації людських помилок під час виявлення загроз.
За словами розробників з Omnilert, технологія постійно навчається на нових даних, і подібні ситуації допомагають покращувати алгоритми розпізнавання. Представники компанії стверджують, що їхні системи впроваджено більш ніж у сотні навчальних закладів США, і вони вже не раз запобігали реальним інцидентам.
Батьки Аллена заявили, що інцидент викликав у їхнього сина серйозний стрес і поставив під сумнів безпеку використання таких технологій у школах. Місцеве управління освіти почало внутрішнє розслідування, щоб визначити, наскільки коректно співробітники дотримувалися протоколу.
Нагадаємо, ми писали, що школяра з Флориди заарештували через запитання до ChatGPT про спосіб убивства друга.
