📜 Папа Лео XIV публикует первую энциклику о искусственном интеллекте
Папа Лев XIV опубликовал первую в истории энциклику об искусственном интеллекте. Она называется Magnifica Humanitas — "Величественная человечность" на латыни — и была подписана ровно через 135 лет после Rerum Novarum, основополагающего текста социальной доктрины Церкви о правах работников. Параллель не случайна: для этого Папы ИИ является социальным и моральным вызовом нашей эры. Тем временем Meta записывала своих сотрудников для тренировки ИИ, который может их заменить, а исследователь обнаружил хак, настолько же элегантный, насколько пугающий. На той же неделе — три разных способа спросить, что значит быть человеком, когда машины учатся.
📜 Папа Лев XIV публикует первую энциклику об искусственном интеллекте
В воскресенье, 25 мая, Папа Лев XIV опубликовал Magnifica Humanitas, первый папский документ, полностью посвящённый искусственному интеллекту. Название — "Величественная человечность" на латыни — не случайно. Не случайна и дата: она была подписана 15 мая, через 135 лет после Rerum Novarum Льва XIII, основополагающего текста социальной доктрины Церкви о правах работников во время промышленной революции. Параллель сознательна: ИИ является для этого Папы социальным и моральным вызовом нашей эры.
Самое интересное не только содержание, но и то, как это было представлено. В зале Синода, рядом с кардиналами и теологами, был Кристофер Ола, сооснователь Anthropic и руководитель команды интерпретируемости. Не из-за его должности, а потому что исследование прозрачности моделей — именно та работа, которая беспокоит Ватикан.
Энциклика рассматривает три основные оси: человеческое достоинство перед системами, принимающими решения за нас, перераспределение ценности, созданной автоматизацией, и необходимость алгоритмической прозрачности как условия справедливого общества. Ничего о запрете ИИ. Напротив: документ призывает Церковь активно участвовать в развитии технологий, а не наблюдать издалека.
От этики в Ватикане до этики в коридорах Meta: та же неделя показала, что не все компании одинаково понимают ответственность.
Meta записывает своих сотрудников для тренировки ИИ
Meta подтвердила, что записывает своих сотрудников — встречи, разговоры, взаимодействия — для тренировки своих ИИ-систем. Официальное оправдание: улучшение способности моделей понимать естественные разговоры. Менее комфортная реальность: те же сотрудники, чьи данные используются для тренировки, могут обучать ИИ, который в конечном счёте их заменит.
А тем временем исследователь безопасности обнаружил метод манипуляции языковыми моделями с помощью "токенов-призраков": невидимых последовательностей, которые, встроенные в промпт, изменяют поведение модели без ведома пользователя. Это не баг — это свойство того, как работают трансформеры. И простого исправления не существует.
Энциклика, призывающая к участию, компания, записывающая собственных сотрудников, и уязвимость без простого исправления. Вопрос о том, что значит быть человеком, когда машины учатся, не имеет единого ответа — но всё больше институций, от Ватикана до лабораторий безопасности, пытаются его найти. И это, собственно, прогресс.
— Max