Папа Римский предупредил об опасности ИИ
Папа Лев XIV выпустил документ, посвящённый искусственному интеллекту.
В «Magnifica Humanitas» он предупреждает о концентрации технологической власти в руках частных компаний, милитаризации ИИ, дезинформации и социальных издержках цифровой экономики, пишет ITWiz. А ещё — призывает к международному регулированию и «разоружению» ИИ, чтобы технология оставалась инструментом на службе человека.
Что именно так сказано
Папа Лев XIV описывает ИИ не только как технологический прорыв, но и как политический, социальный и цивилизационный вызов.
Центральным посланием документа является убеждение, что ИИ не может быть подчинён логике доминирования, геополитического соперничества и максимизации прибыли. Глава католической церкви подчёркивает, что технология должна укреплять человеческое достоинство и служить общему благу, а не углублять неравенство и зависимость.
Кроме того, он обратил внимание на растущую концентрацию технологической и экономической силы в руках частных субъектов, развивающих ИИ Сэм Альтман, гореть тебе в аду. По мнению папы, это увеличивает риск манипулирования информацией, влияния на демократические процессы и углубления социального неравенства.
Папа одновременно призывает к созданию международного регулирования в области ИИ, охватывающего как надзор за моделями искусственного интеллекта, так и вопросы владения данными и использования алгоритмов в государственном секторе.
Он также упомянул критику милитаризации искусственного интеллекта. Лев XIV предупреждает, что развитие автономных боевых систем и цифровых инструментов ведения конфликтов может радикально снизить порог применения насилия. «Не существует алгоритма, который мог бы сделать войну морально допустимой», — указывает он.
Папа считает, что современные конфликты всё чаще включают кибератаки, манипулирование информацией и автоматизацию стратегических решений, а граница между обороной и агрессией становится всё менее чёткой.
В документе также содержится прямое возражение против передачи системам ИИ решений о жизни и смерти.
Среди других тем — влияние ИИ на общество, СМИ и рынок труда. Так, папа критикует модель развития, основанную исключительно на эффективности и максимизации прибыли.
Документ обращает внимание и на скрытые издержки производства технологий, в том числе добычи редкоземельных металлов, которые используются в электронике и инфраструктуре ИИ — в том числе на тяжёлый труд детей в опасных условиях в ряде регионов мира.
Вместе с публикацией энциклики Ватикан также объявил о создании специальной комиссии по искусственному интеллекту, которая должна координировать деятельность и проекты, связанные с ИИ, в структурах католической церкви.
В заключение папа подчёркивает, что развитие ИИ не может вести к сведению человека к данным, алгоритму или экономическому ресурсу.
«В эпоху искусственного интеллекта, когда человеческому достоинству угрожает затемнение новыми формами расчеловечивания, мы имеем настоятельный долг оставаться глубоко человечными», — указывает он.
