D открытом письме, опубликованном в среду, содержится призыв запретить разработку систем искусственного интеллекта, считающихся «сверхразумными», до тех пор, пока не будет достигнут широкий научный консенсус относительно того, что такие технологии могут быть созданы как безопасным образом, так и таким образом, который будет пользоваться поддержкой общественности.
Заявление, опубликованное некоммерческой организацией Future of Life Institute, подписали более 700 человек, включая лауреатов Нобелевской премии, ветеранов технологической отрасли, политиков, деятелей искусств и общественных деятелей, таких как принц Гарри и Меган Маркл, герцог и герцогиня Сассекские.
В письме отражена глубокая и растущая обеспокоенность проектами таких технологических гигантов, как Google, OpenAI и Meta Platforms, которые стремятся создать искусственный интеллект, способный превзойти человека практически в любой когнитивной задаче. Согласно письму, подобные амбиции вызывают опасения по поводу безработицы из-за автоматизации, утраты контроля и человеческого достоинства, рисков для национальной безопасности и возможности серьёзных социальных и экзистенциальных последствий.
«Мы призываем ввести запрет на разработку сверхинтеллекта, который не должен быть снят до тех пор, пока не будет достигнут широкий научный консенсус относительно того, что это будет осуществляться безопасно и контролируемо, а также пока не будет получена сильная общественная поддержка», — говорится в заявлении .
Среди подписавших петицию – пионеры искусственного интеллекта Йошуа Бенджио и Джеффри Хинтон, оба лауреаты премии Тьюринга , соучредитель Apple Стив Возняк, бизнесмен Ричард Брэнсон и актёр Джозеф Гордон-Левитт. В политической сфере имена варьируются от Стива Бэннона, бывшего главного стратега Белого дома при Дональде Трампе, до Сьюзен Райс, бывшего советника по национальной безопасности в администрации Обамы, и бывшего председателя Объединённого комитета начальников штабов США Майка Маллена.
В открытом письме отмечается, что, хотя «беспрецедентный» потенциал ИИ для улучшения здоровья и благосостояния признаётся, разработка сверхразумных систем порождает риски, которым пока не уделено достаточного внимания. Сторонники письма утверждают, что гонка между крупными технологическими корпорациями может подтолкнуть развитие к точке невозврата, сделав контроль и надзор невозможными. В центре внимания – опасения по поводу национальной безопасности, гражданских свобод и потенциального лишения человека прав и возможностей, а также предупреждения о непредвиденных последствиях, если машины будут обладать интеллектом уровня человеческого или даже более высокого.
В 2023 году Институт будущего жизни опубликовал широко распространённое письмо с призывом приостановить разработку мощных моделей искусственного интеллекта, но ведущие технологические компании не прислушались к этой просьбе. Организаторы последней кампании заявляют, что сейчас этот вопрос стоит ещё более остро, ссылаясь на опросы, свидетельствующие о широком скептицизме общественности в отношении стремления к созданию сверхразума без обеспечения безопасности и строгого надзора. Вопрос о том, вмешаются ли правительства вовремя или компании начнут саморегулирование, остаётся открытым.
Заявление, опубликованное некоммерческой организацией Future of Life Institute, подписали более 700 человек, включая лауреатов Нобелевской премии, ветеранов технологической отрасли, политиков, деятелей искусств и общественных деятелей, таких как принц Гарри и Меган Маркл, герцог и герцогиня Сассекские.
В письме отражена глубокая и растущая обеспокоенность проектами таких технологических гигантов, как Google, OpenAI и Meta Platforms, которые стремятся создать искусственный интеллект, способный превзойти человека практически в любой когнитивной задаче. Согласно письму, подобные амбиции вызывают опасения по поводу безработицы из-за автоматизации, утраты контроля и человеческого достоинства, рисков для национальной безопасности и возможности серьёзных социальных и экзистенциальных последствий.
«Мы призываем ввести запрет на разработку сверхинтеллекта, который не должен быть снят до тех пор, пока не будет достигнут широкий научный консенсус относительно того, что это будет осуществляться безопасно и контролируемо, а также пока не будет получена сильная общественная поддержка», — говорится в заявлении .
Среди подписавших петицию – пионеры искусственного интеллекта Йошуа Бенджио и Джеффри Хинтон, оба лауреаты премии Тьюринга , соучредитель Apple Стив Возняк, бизнесмен Ричард Брэнсон и актёр Джозеф Гордон-Левитт. В политической сфере имена варьируются от Стива Бэннона, бывшего главного стратега Белого дома при Дональде Трампе, до Сьюзен Райс, бывшего советника по национальной безопасности в администрации Обамы, и бывшего председателя Объединённого комитета начальников штабов США Майка Маллена.
В открытом письме отмечается, что, хотя «беспрецедентный» потенциал ИИ для улучшения здоровья и благосостояния признаётся, разработка сверхразумных систем порождает риски, которым пока не уделено достаточного внимания. Сторонники письма утверждают, что гонка между крупными технологическими корпорациями может подтолкнуть развитие к точке невозврата, сделав контроль и надзор невозможными. В центре внимания – опасения по поводу национальной безопасности, гражданских свобод и потенциального лишения человека прав и возможностей, а также предупреждения о непредвиденных последствиях, если машины будут обладать интеллектом уровня человеческого или даже более высокого.
В 2023 году Институт будущего жизни опубликовал широко распространённое письмо с призывом приостановить разработку мощных моделей искусственного интеллекта, но ведущие технологические компании не прислушались к этой просьбе. Организаторы последней кампании заявляют, что сейчас этот вопрос стоит ещё более остро, ссылаясь на опросы, свидетельствующие о широком скептицизме общественности в отношении стремления к созданию сверхразума без обеспечения безопасности и строгого надзора. Вопрос о том, вмешаются ли правительства вовремя или компании начнут саморегулирование, остаётся открытым.
