📜 Папа Лев XIV публікує першу енцикліку про штучний інтелект

Папа Лев XIV опублікував першу в історії енцикліку про штучний інтелект. Вона називається Magnifica Humanitas — "Велична людяність" латиною — і була підписана рівно через 135 років після Rerum Novarum, основоположного тексту соціальної доктрини Церкви про права працівників. Паралель не випадкова: для цього Папи ШІ є соціальним та моральним викликом нашої ери. Тим часом Meta записувала своїх співробітників для тренування ШІ, який може їх замінити, а дослідник виявив хак, настільки ж елегантний, наскільки моторошний. Того ж тижня — три різні способи запитати, що означає бути людиною, коли машини вчаться.

📜 Папа Лев XIV публікує першу енцикліку про штучний інтелект

У неділю, 25 травня, Папа Лев XIV опублікував Magnifica Humanitas, перший папський документ, повністю присвячений штучному інтелекту. Назва — "Велична людяність" латиною — не випадкова. Не випадкова й дата: вона була підписана 15 травня, через 135 років після Rerum Novarum Лева XIII, основоположного тексту соціальної доктрини Церкви про права працівників під час промислової революції. Паралель свідома: ШІ є для цього Папи соціальним та моральним викликом нашої ери.

Найцікавіше не лише зміст, але й те, як це було представлено. У залі Синоду, поряд з кардиналами та теологами, був Крістофер Ола, співзасновник Anthropic і керівник команди інтерпретованості. Не через його посаду, а тому що дослідження прозорості моделей — саме та робота, яка турбує Ватикан.

Енцикліка розглядає три основні осі: людська гідність перед системами, які приймають рішення за нас, перерозподіл цінності, створеної автоматизацією, та необхідність алгоритмічної прозорості як умови справедливого суспільства. Нічого про заборону ШІ. Навпаки: документ закликає Церкву активно брати участь у розвитку технологій, а не спостерігати здалеку.

Від етики у Ватикані до етики в коридорах Meta: той самий тиждень показав, що не всі компанії однаково розуміють відповідальність.

Meta записує своїх співробітників для тренування ШІ

Meta підтвердила, що записує своїх співробітників — зустрічі, розмови, взаємодії — для тренування своїх ШІ-систем. Офіційне виправдання: покращення здатності моделей розуміти природні розмови. Менш комфортна реальність: ті самі співробітники, чиї дані використовуються для тренування, можуть навчати ШІ, який зрештою їх замінить.

А тим часом дослідник безпеки виявив метод маніпуляції мовними моделями за допомогою "токенів-привидів": невидимих послідовностей, які, вбудовані в промпт, змінюють поведінку моделі без відома користувача. Це не баг — це властивість того, як працюють трансформери. І простого виправлення не існує.

Енцикліка, яка закликає до участі, компанія, яка записує власних співробітників, та вразливість без простого виправлення. Питання про те, що означає бути людиною, коли машини вчаться, не має єдиної відповіді — але все більше інституцій, від Ватикану до лабораторій безпеки, намагаються її знайти. І це, власне, прогрес.

— Max