Альтман против Амодеи: в эпоху сверхинтеллекта люди сохранят контроль — или окажутся в роли домашних питомцев?
Альтман против Амодеи: в эпоху сверхинтеллекта люди сохранят контроль — или окажутся в роли домашних питомцев?
Что произойдёт, если искусственный интеллект превзойдёт людей практически во всех экономически значимых задачах? Ответ зависит не только от того, сколько благ сможет создать ИИ, но и от того, кто будет контролировать доступ к ним.
Генеральный директор OpenAI Сэм Альтман утверждает, что люди должны сохранить контроль над собственным будущим, даже если ради этого придётся ограничить развитие сверхинтеллектуального ИИ. Его предостережение касается вполне конкретного сценария: общества, в котором система ИИ оценивает поведение людей и определяет, какое вознаграждение получит каждый из них.
Идея, с которой спорит Альтман, изложена в эссе генерального директора Anthropic Дарио Амодеи, опубликованном в 2024 году. Однако их кажущееся разногласие следует рассматривать в контексте. Амодеи представил распределение благ под управлением ИИ лишь как одну из возможных экономических моделей, а не как окончательную рекомендацию. Более того, он признал, что подобное устройство общества может привести к эксплуатации и антиутопическим последствиям.
Для пользователей криптовалют этот спор поднимает практический вопрос: если интеллектуальные системы станут центральным элементом экономики, смогут ли люди по-прежнему владеть активами, перемещать и использовать их, не спрашивая разрешения у этих систем?
Экономический вопрос, стоящий за дискуссией об ИИ
В эссе Machines of Loving Grace Амодеи рассматривает будущее, в котором ИИ выполняет большую часть работы эффективнее и дешевле человека. Если этот сценарий реализуется, заработная плата, возможно, перестанет быть надёжным способом распределения результатов экономической деятельности.
Одним из возможных решений может стать безусловный базовый доход: люди будут получать средства независимо от того, есть ли у них оплачиваемая работа. Другой, более тревожный сценарий предполагает, что созданные ИИ блага будут распределяться в зависимости от оценки того, какие виды человеческой деятельности заслуживают поддержки.
Разница между этими подходами принципиальна. Система, которая гарантирует людям доступ к ресурсам на основании понятных правил, поддающихся оспариванию, — совсем не то же самое, что система, ставящая этот доступ в зависимость от непрозрачной оценки их поведения.
Возражения Альтмана сосредоточены именно на утрате самостоятельности. Вопрос не только в том, способен ли ИИ обеспечить людям материальное благополучие. Гораздо важнее, сохранят ли они реальную власть над решениями, институтами и ресурсами, определяющими их жизнь.
Почему право собственности важно в экономике, управляемой ИИ
По мере того как ИИ-агенты учатся эффективнее проводить исследования, совершать покупки и управлять рабочими процессами, их роль в финансовой деятельности также может возрасти. Например, компания может разрешить агенту оплачивать облачные вычисления, а частное лицо — поручить ему управление повседневными транзакциями.
Однако это удобство требует важного разграничения: ИИ-агент может действовать от имени пользователя, не владея его активами и не получая над ними неограниченной власти.
Криптокошельки и смарт-контракты позволяют закрепить такое разграничение на уровне программного кода:
- Пользователь может хранить активы на контролируемом им счёте, не передавая их полностью поставщику услуг.
- Приложение может запрашивать разрешение на взаимодействие с активами, однако пользователь всё равно должен понимать, какие именно полномочия оно получит.
- Смарт-контракты могут обеспечивать соблюдение заранее заданных условий — например, лимитов расходов или необходимости получить несколько подтверждений.
- Публичные блокчейны позволяют независимо отслеживать определённые транзакции и правила.
Ни одна из этих возможностей не гарантирует справедливого результата. Тем не менее они дают пользователям инструменты, позволяющие отделить помощь от властных полномочий, — это особенно важно, когда программное обеспечение принимает решения с машинной скоростью.
ИИ-агентам нужны ограниченные разрешения, а не полный доступ
Чтобы ИИ-агент мог работать с криптовалютами, ему может потребоваться право инициировать транзакции. Но если предоставить ему доступ к приватному ключу без каких-либо ограничений, весь кошелёк окажется под угрозой в случае взлома, манипуляции или обычной ошибки агента.
Более безопасный подход начинается с ограничения полномочий агента. В зависимости от кошелька и используемой инфраструктуры это может включать:
- Установление лимитов расходов на определённый период или для конкретной задачи.
- Ограничение адресатов списком одобренных адресов или контрактов.
- Обязательное подтверждение человеком крупных или необычных транзакций.
- Отделение средств агента от активов, предназначенных для долгосрочного хранения.
- Отзыв разрешений, если агент или приложение больше не заслуживают доверия.
Абстракция аккаунта — одно из направлений развития Ethereum, позволяющее сделать поведение учётных записей более гибким. Стандарт ERC-4337 описывает подход к аккаунтам на основе смарт-контрактов с настраиваемой логикой проверки. Такие решения помогают разработчикам создавать более гибкие механизмы авторизации, однако доступный уровень защиты зависит от реализации конкретного кошелька и от того, какие правила действительно настроил пользователь.
Универсальной кнопки безопасности не существует. Лимит расходов полезен лишь при грамотной настройке, а вредоносный контракт или скомпрометированный интерфейс по-прежнему могут обманом заставить пользователя предоставить опасные разрешения.
Прозрачность полезна, но она не равнозначна контролю
Блокчейн иногда преподносят как готовое решение проблемы централизованной власти. В действительности всё гораздо сложнее.
Транзакция может быть видна в блокчейне, тогда как решение, ставшее её причиной, останется непрозрачным. Система ИИ может использовать закрытую модель, конфиденциальные данные или нераскрытые критерии, чтобы определить, кому полагается выплата. Сама по себе запись платежа в публичном реестре не позволяет понять, было ли решение обоснованным.
Точно так же смарт-контракт может последовательно исполнять заданные правила, не делая их справедливыми. Если небольшая группа лиц способна изменять контракт, контролировать используемые им данные или ограничивать доступ через доминирующий интерфейс, фактическая самостоятельность пользователей может оказаться гораздо меньше, чем следует из записей в блокчейне.
При оценке любой финансовой системы, связанной с ИИ, стоит задать следующие вопросы:
- Кто может менять правила?
- Какие данные влияют на принятие решений?
- Могут ли пользователи понять результат и оспорить его?
- Могут ли люди вывести свои активы или сменить поставщика услуг?
- Что произойдёт, если система ИИ или её оператор выйдет из строя?
Эти вопросы не менее важны, чем скорость транзакций или уровень автоматизации. Чтобы человеческий контроль был реальным, необходимы и технический доступ, и институты, которые наполняют этот доступ практическим смыслом.
Какую роль играет самостоятельное хранение активов
Самостоятельное хранение означает, что пользователь лично отвечает за ключи, с помощью которых подтверждаются транзакции. В экономике, где всё больше операций осуществляется через автоматизированные сервисы, это создаёт важную границу: ИИ-помощник может рекомендовать действие, но окончательное решение о подписании транзакции остаётся за владельцем активов.
Аппаратный кошелёк, например OneKey, помогает обеспечить такое разделение: приватные ключи хранятся на отдельном устройстве, а транзакции необходимо подтверждать через предусмотренный кошельком процесс подписания. При этом кошелёк не способен определить, насколько разумна рекомендация ИИ, и не защитит пользователя, который в результате обмана сам подтвердил вредоносную транзакцию. Пользователям всё равно необходимо проверять сведения о транзакциях и надёжно хранить данные для восстановления доступа.
Для повседневных экспериментов с ИИ-агентами разумно использовать отдельный кошелёк с ограниченной суммой, а долгосрочные активы хранить там, где любые операции требуют более осознанного подтверждения. Оптимальная схема зависит от конкретных активов, приложений и связанных с ними рисков.
Цель — не только изобилие, но и свобода выбора
Спор Альтмана и Амодеи нельзя свести к простому выбору между принятием и отказом от ИИ. И экономический потенциал этой технологии, и сопутствующие риски заслуживают серьёзного внимания. Главный вопрос состоит в том, как добиться того, чтобы растущие возможности машин расширяли человеческую свободу, а не незаметно подменяли её.
Криптовалюты сами по себе не способны решить эту проблему. Однако заложенные в них принципы владения, переносимости активов и явного предоставления полномочий могут помочь в создании систем, где ИИ остаётся инструментом, а не становится высшей инстанцией, определяющей, что людям разрешено делать с собственными ресурсами.
