В прошлом году я написал статью о технологическом оптимизме, в которой изложил свой общий энтузиазм по поводу технологий и их огромных преимуществ, а также выразил осторожное отношение к некоторым конкретным проблемам, в основном сосредоточив внимание на суперумном ИИ и потенциальных катастрофических рисках, которые он может вызвать.
Основная идея статьи заключается в пропаганде концепции: децентрализованного, демократичного и дифференцированного защитного ускорения. Мы должны ускорить технологическое развитие, но при этом избирательно сосредоточиться на тех технологиях, которые могут укрепить защитные способности, а не разрушительные способности, и стремиться к распределению власти, а не к концентрации её в руках немногих элит. Защитная модель должна напоминать демократичную Швейцарию и исторические почти анархистские регионы, а не феодальную систему средневековья с её лордами и замками.
За последний год эти идеи значительно развились и улучшились. Я делился этими идеями на платформе "80,000 часов" и получил множество отзывов, большинство из которых было положительными, но, конечно, были и некоторые критические.
Эта работа продолжается и достигла существенных результатов: достигнут прогресс в области проверяемых открытых вакцин; осознание ценности здорового внутреннего воздуха постоянно растет; "сообщества заметок" продолжают играть позитивную роль; предсказательные рынки переживают прорывный год как информационный инструмент; нулевые знания используются в области идентификации личности правительства и социальных медиа ( и обеспечивают безопасность кошельков Ethereum через абстракцию аккаунтов ); открытые инструменты визуализации применяются в медицинской области и в интерфейсах мозг-машина, и многое другое.
Прошлой осенью мы провели первое важное мероприятие d/acc: "День открытия d/acc"(d/aDDy), собравшее спикеров из различных столпов d/acc(: биологии, физики, сетей, информационной безопасности и нейротехнологий). Мероприятие длилось целый день. Люди, долгое время занимающиеся этими технологиями, начали лучше узнавать работы друг друга, а внешние участники начали осознавать более крупное видение: ценности, продвигающие развитие Ethereum и криптовалют, могут быть распространены на более широкий мир.
Содержание и охват d/acc
Время пришло в 2042 год. Вы видите в новостях сообщение о том, что в вашем городе может вспыхнуть новая эпидемия. К таким новостям вы уже привыкли: люди, как правило, чрезмерно реагируют на каждую мутацию болезней животных, и в подавляющем большинстве случаев эти мутации в конечном итоге не приводят к реальным кризисам. Две предыдущие потенциальные эпидемии были успешно обнаружены на ранних стадиях с помощью мониторинга сточных вод и открытого анализа социальных медиа и успешно сдержаны. Однако на этот раз ситуация отличается: прогнозные рынки показывают вероятность возникновения как минимум 10,000 случаев на уровне 60%, что вызывает у вас беспокойство.
Только вчера была определена генетическая последовательность вируса. Программное обеспечение вашего портативного анализатора воздуха сразу же обновилось и теперь может обнаруживать новый вирус ( с помощью одного дыхательного теста или после 15 минут воздействия в комнате ). Вскоре ожидается выпуск открытых инструкций и кода для создания вакцины с использованием любого современного оборудования, доступного в медицинских учреждениях. Большинство людей пока не предприняли никаких действий и в основном полагаются на широко используемые меры фильтрации воздуха и вентиляции для обеспечения своей безопасности.
Поскольку у вас есть проблемы с иммунной системой, будьте особенно осторожны: ваш локальный открытый AI-помощник, помимо обычных задач, таких как навигация, рекомендации по ресторанам и мероприятиям, также будет учитывать данные о качестве воздуха и углекислом газе в реальном времени, чтобы рекомендовать только самые безопасные места. Эти данные предоставляются тысячами участников и устройств, с использованием технологий нулевых знаний и дифференциальной конфиденциальности, что минимизирует риск утечки или злоупотребления данными.
Два месяца спустя пандемия чудесным образом исчезла: похоже, 60% людей следовали основным протоколам профилактики, то есть носили маски, когда воздушные анализаторы издавали сигнал тревоги и показывали наличие вируса, а в случае положительного теста оставались на самоизоляции. Эта мера была достаточна, чтобы еще больше снизить коэффициент распространения, который уже значительно уменьшился благодаря пассивной мощной фильтрации воздуха, до менее чем 1. Моделирование показало, что болезнь, которая могла бы быть в пять раз более серьезной, чем коронавирусная пандемия двадцатилетней давности, сейчас не оказала серьезного воздействия.
Мероприятие d/acc, проведенное Devcon, достигло крайне положительного результата: концепция d/acc успешно объединила людей из разных областей и действительно пробудила у них глубокий интерес к работе друг друга.
Проведение мероприятия с "разнообразием" не является сложной задачей, но действительно установить тесные связи между людьми с различным опытом и интересами крайне сложно. Я до сих пор помню, как в средней и старшей школе меня заставляли смотреть длинные оперы, и тогда мне казалось, что эти оперы скучные и неинтересные. Я прекрасно понимал, что "должен" их ценить, потому что в противном случае меня бы считали безкультурным компьютерным лентяем, но я не смог на более глубоком уровне сопереживать содержанию оперы. Однако атмосфера мероприятий d/acc была совершенно иной: казалось, что людям искренне нравится узнавать о различных работах в разных областях.
Если мы стремимся построить будущее, более светлое, чем господство, замедление и разрушение, нам обязательно нужно развивать такое широкое строительство альянсов. d/acc, похоже, добился значительных успехов в этом отношении, и только этого достаточно, чтобы подчеркнуть ценность этой идеи.
Основная идея d/acc проста и ясна: децентрализованная, демократическая и дифференцированная оборонительная акселерация. Создание технологий, способствующих смещению баланса сил в сторону обороны, и при этом не полагающихся на передачу большей власти центральным властям в процессе реализации. Между этими двумя аспектами существует внутреннее тесное взаимодействие: любая децентрализованная, демократическая или свободная политическая структура часто может процветать, когда оборона легко реализуема, но сталкивается с серьезными вызовами, когда оборона затруднена — в таких случаях наиболее вероятным результатом будет период хаоса, когда все противостоят друг другу, в конечном итоге достигая состояния баланса, управляемого сильнейшими.
Одним из способов понять важность одновременной реализации децентрализации, защищенности и ускорения является сравнение с концепцией, возникающей при отказе от любого из этих трех аспектов.
Децентрализованное ускорение, но игнорирование части "дифференцированной защиты".
По сути, это похоже на то, чтобы стать эффективным акцелерационистом ( e/acc ), при этом стремясь к децентрализации. Многие люди принимают этот подход, некоторые из них называют себя d/acc, но они полезно описывают свой акцент как "наступательный". Кроме того, есть много других, кто проявляет более умеренный энтузиазм по поводу "децентрализованного ИИ" и подобных тем, но, на мой взгляд, их внимание к аспектам "защиты" явно недостаточно.
На мой взгляд, этот подход может помочь избежать риска диктатуры определенных групп над всем человечеством, но он не решает потенциальные структурные проблемы: в среде, благоприятной для нападения, всегда существует постоянный риск катастрофы, или кто-то может позиционировать себя как защитника и занять доминирующее положение навсегда. Что касается ИИ, он также не может должным образом решить риск ослабления власти человечества по сравнению с ИИ.
Дифференцированная защита ускоряется, но игнорирует "децентрализацию и демократию"
Чтобы достичь целей безопасности, принимается централизованный контроль, что всегда привлекало определенную часть людей. Читатели, безусловно, знакомы с множеством таких случаев и с их негативными последствиями. В последнее время некоторые выражают опасения, что крайний централизованный контроль может быть единственным способом справиться с будущими крайними технологиями: например, представьте себе гипотетическую ситуацию, когда "каждый носит 'ярлык свободы' — это более ограниченная версия современных носимых устройств для мониторинга, подобная браслетам, которые используются в некоторых странах в качестве альтернативы тюремному заключению... зашифрованное видео и аудио постоянно загружаются и в реальном времени обрабатываются машинами". Однако у централизованного контроля есть проблемы с уровнем. Одна форма централизованного контроля, часто игнорируемая, но все же вредная и относительно мягкая, проявляется в области биотехнологий (, например, в отношении продовольствия и вакцин ), которые подвергаются сопротивлению со стороны общественности, а также в отношении закрытых норм, позволяющих этому сопротивлению оставаться неоспоримым.
Риски этого подхода очевидны, поскольку сам центр часто становится источником риска. Мы уже стали свидетелями этого во время пандемии COVID-19, когда финансируемые несколькими основными мировыми правительствами функциональные исследования могли быть источником пандемии; централизованная эпистемология привела к тому, что Всемирная организация здравоохранения в течение многих лет отказывалась признавать, что вирус COVID-19 передается по воздуху, а обязательное социальное дистанцирование и принудительная вакцинация вызвали возможные политические последствия, которые могут длиться десятилетиями. Подобные ситуации с высокой вероятностью могут повториться в любых рискованных сценариях, связанных с ИИ или другими рискованными технологиями. В отличие от этого, децентрализованный подход будет более эффективно справляться с рисками, исходящими от самого центра.
Децентрализованная защита, но отвергает ускорение
По сути, это попытка замедлить технологический прогресс или способствовать экономическому спаду.
Эта стратегия сталкивается с двойными вызовами. Во-первых, в целом технологический и экономический рост крайне полезен для человечества, и любое его замедление может иметь непредсказуемые последствия. Во-вторых, в неавторитарном мире застой является нестабильным: те, кто «обманывает» больше всего и находит кажущиеся разумными способы продолжать развитие, окажутся в выигрышном положении. Стратегия замедления может работать в определенных ситуациях: например, европейская еда более полезна, чем американская, это является примером; успехи в области недопущения распространения ядерного оружия на данный момент тоже это подтверждают. Однако эти стратегии не могут работать вечно.
С помощью d/acc мы стремимся достичь следующих целей:
В условиях растущей племенной тенденции в современном мире придерживаться принципов, а не просто слепо строить различные вещи — наоборот, мы ожидаем построить конкретные вещи, чтобы сделать мир более безопасным и лучшим.
Осознание экспоненциального технологического прогресса означает, что мир станет необычайно странным, и общий "след" человечества во Вселенной неизбежно будет постоянно увеличиваться. Наша способность защищать уязвимые животные, растения и группы людей от вреда должна постоянно улучшаться, и единственный выход - это идти вперед.
Создание технологий, которые действительно защищают нас, а не основываются на предположении "хороших людей ( или хорошего ИИ ), контролирующих всё". Мы достигаем этой цели, создавая инструменты, которые по своей природе более эффективны для создания и защиты, чем для разрушения.
Другой взгляд на d/acc заключается в возвращении к рамкам движения пиратской партии в Европе конца 2000-х годов: расширение прав и возможностей.
Наша цель состоит в том, чтобы создать мир, который сможет сохранить человеческую активность, реализовать негативную свободу, то есть избежать активного вмешательства со стороны других в нашу способность формировать собственную судьбу, будь то обычные граждане, правительство или суперинтеллектуальные роботы (, одновременно реализуя позитивную свободу, то есть обеспечивая наличие знаний и ресурсов для осуществления этой способности. Это перек呼应 классической либеральной традиции, которая прослеживается на протяжении нескольких веков, включая внимание Стюарта Брандта к "доступу к инструментам", а также акцент Джона Стюарта Милля на образовании и свободе как ключевых элементах человеческого прогресса — возможно, также стоит добавить видение Бакминстера Фуллера о том, что процесс глобального решения проблем должен быть участническим и широко распределенным. Учитывая технологический ландшафт XXI века, мы можем рассматривать d/acc как способ достижения этих же целей.
Третье измерение: Синхронное развитие выживания и процветания
В моей статье прошлого года d/acc особенно сосредоточилось на защитных технологиях: физической защите, биозащите, киберзащите и информационной защите. Однако простая децентрализованная защита недостаточна для создания великого мира: нам также нужно проактивное позитивное видение, которое четко определяет, что человечество сможет достичь после получения новой децентрализации и безопасности.
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
19 Лайков
Награда
19
7
Репост
Поделиться
комментарий
0/400
DeadTrades_Walking
· 07-25 06:03
Виталик Бутерин говорит довольно ясно.
Посмотреть ОригиналОтветить0
MevWhisperer
· 07-25 05:23
Защитный web3 вышел за рамки.
Посмотреть ОригиналОтветить0
ser_ngmi
· 07-22 20:38
Виталик Бутерин все еще мечтает о большом.
Посмотреть ОригиналОтветить0
AlwaysAnon
· 07-22 20:34
Виталик Бутерин сказал правильно
Посмотреть ОригиналОтветить0
CryptoPunster
· 07-22 20:23
Виталик Бутерин сказал все правильно, но мой токен все еще в Все в и ловлю рыбу.
Посмотреть ОригиналОтветить0
NotFinancialAdviser
· 07-22 20:23
В总 прав.
Посмотреть ОригиналОтветить0
SnapshotStriker
· 07-22 20:17
владыка все так же, каждый день думает о стольком.
Виталик Бутерин: d/acc обзор за год Децентрализация обороны ускорение прогресса и размышления
d/acc: Обзор и размышления через год
Автор: Виталик Бутерин
В прошлом году я написал статью о технологическом оптимизме, в которой изложил свой общий энтузиазм по поводу технологий и их огромных преимуществ, а также выразил осторожное отношение к некоторым конкретным проблемам, в основном сосредоточив внимание на суперумном ИИ и потенциальных катастрофических рисках, которые он может вызвать.
Основная идея статьи заключается в пропаганде концепции: децентрализованного, демократичного и дифференцированного защитного ускорения. Мы должны ускорить технологическое развитие, но при этом избирательно сосредоточиться на тех технологиях, которые могут укрепить защитные способности, а не разрушительные способности, и стремиться к распределению власти, а не к концентрации её в руках немногих элит. Защитная модель должна напоминать демократичную Швейцарию и исторические почти анархистские регионы, а не феодальную систему средневековья с её лордами и замками.
За последний год эти идеи значительно развились и улучшились. Я делился этими идеями на платформе "80,000 часов" и получил множество отзывов, большинство из которых было положительными, но, конечно, были и некоторые критические.
Эта работа продолжается и достигла существенных результатов: достигнут прогресс в области проверяемых открытых вакцин; осознание ценности здорового внутреннего воздуха постоянно растет; "сообщества заметок" продолжают играть позитивную роль; предсказательные рынки переживают прорывный год как информационный инструмент; нулевые знания используются в области идентификации личности правительства и социальных медиа ( и обеспечивают безопасность кошельков Ethereum через абстракцию аккаунтов ); открытые инструменты визуализации применяются в медицинской области и в интерфейсах мозг-машина, и многое другое.
Прошлой осенью мы провели первое важное мероприятие d/acc: "День открытия d/acc"(d/aDDy), собравшее спикеров из различных столпов d/acc(: биологии, физики, сетей, информационной безопасности и нейротехнологий). Мероприятие длилось целый день. Люди, долгое время занимающиеся этими технологиями, начали лучше узнавать работы друг друга, а внешние участники начали осознавать более крупное видение: ценности, продвигающие развитие Ethereum и криптовалют, могут быть распространены на более широкий мир.
Содержание и охват d/acc
Время пришло в 2042 год. Вы видите в новостях сообщение о том, что в вашем городе может вспыхнуть новая эпидемия. К таким новостям вы уже привыкли: люди, как правило, чрезмерно реагируют на каждую мутацию болезней животных, и в подавляющем большинстве случаев эти мутации в конечном итоге не приводят к реальным кризисам. Две предыдущие потенциальные эпидемии были успешно обнаружены на ранних стадиях с помощью мониторинга сточных вод и открытого анализа социальных медиа и успешно сдержаны. Однако на этот раз ситуация отличается: прогнозные рынки показывают вероятность возникновения как минимум 10,000 случаев на уровне 60%, что вызывает у вас беспокойство.
Только вчера была определена генетическая последовательность вируса. Программное обеспечение вашего портативного анализатора воздуха сразу же обновилось и теперь может обнаруживать новый вирус ( с помощью одного дыхательного теста или после 15 минут воздействия в комнате ). Вскоре ожидается выпуск открытых инструкций и кода для создания вакцины с использованием любого современного оборудования, доступного в медицинских учреждениях. Большинство людей пока не предприняли никаких действий и в основном полагаются на широко используемые меры фильтрации воздуха и вентиляции для обеспечения своей безопасности.
Поскольку у вас есть проблемы с иммунной системой, будьте особенно осторожны: ваш локальный открытый AI-помощник, помимо обычных задач, таких как навигация, рекомендации по ресторанам и мероприятиям, также будет учитывать данные о качестве воздуха и углекислом газе в реальном времени, чтобы рекомендовать только самые безопасные места. Эти данные предоставляются тысячами участников и устройств, с использованием технологий нулевых знаний и дифференциальной конфиденциальности, что минимизирует риск утечки или злоупотребления данными.
Два месяца спустя пандемия чудесным образом исчезла: похоже, 60% людей следовали основным протоколам профилактики, то есть носили маски, когда воздушные анализаторы издавали сигнал тревоги и показывали наличие вируса, а в случае положительного теста оставались на самоизоляции. Эта мера была достаточна, чтобы еще больше снизить коэффициент распространения, который уже значительно уменьшился благодаря пассивной мощной фильтрации воздуха, до менее чем 1. Моделирование показало, что болезнь, которая могла бы быть в пять раз более серьезной, чем коронавирусная пандемия двадцатилетней давности, сейчас не оказала серьезного воздействия.
Мероприятие d/acc, проведенное Devcon, достигло крайне положительного результата: концепция d/acc успешно объединила людей из разных областей и действительно пробудила у них глубокий интерес к работе друг друга.
Проведение мероприятия с "разнообразием" не является сложной задачей, но действительно установить тесные связи между людьми с различным опытом и интересами крайне сложно. Я до сих пор помню, как в средней и старшей школе меня заставляли смотреть длинные оперы, и тогда мне казалось, что эти оперы скучные и неинтересные. Я прекрасно понимал, что "должен" их ценить, потому что в противном случае меня бы считали безкультурным компьютерным лентяем, но я не смог на более глубоком уровне сопереживать содержанию оперы. Однако атмосфера мероприятий d/acc была совершенно иной: казалось, что людям искренне нравится узнавать о различных работах в разных областях.
Если мы стремимся построить будущее, более светлое, чем господство, замедление и разрушение, нам обязательно нужно развивать такое широкое строительство альянсов. d/acc, похоже, добился значительных успехов в этом отношении, и только этого достаточно, чтобы подчеркнуть ценность этой идеи.
Основная идея d/acc проста и ясна: децентрализованная, демократическая и дифференцированная оборонительная акселерация. Создание технологий, способствующих смещению баланса сил в сторону обороны, и при этом не полагающихся на передачу большей власти центральным властям в процессе реализации. Между этими двумя аспектами существует внутреннее тесное взаимодействие: любая децентрализованная, демократическая или свободная политическая структура часто может процветать, когда оборона легко реализуема, но сталкивается с серьезными вызовами, когда оборона затруднена — в таких случаях наиболее вероятным результатом будет период хаоса, когда все противостоят друг другу, в конечном итоге достигая состояния баланса, управляемого сильнейшими.
Одним из способов понять важность одновременной реализации децентрализации, защищенности и ускорения является сравнение с концепцией, возникающей при отказе от любого из этих трех аспектов.
Децентрализованное ускорение, но игнорирование части "дифференцированной защиты".
По сути, это похоже на то, чтобы стать эффективным акцелерационистом ( e/acc ), при этом стремясь к децентрализации. Многие люди принимают этот подход, некоторые из них называют себя d/acc, но они полезно описывают свой акцент как "наступательный". Кроме того, есть много других, кто проявляет более умеренный энтузиазм по поводу "децентрализованного ИИ" и подобных тем, но, на мой взгляд, их внимание к аспектам "защиты" явно недостаточно.
На мой взгляд, этот подход может помочь избежать риска диктатуры определенных групп над всем человечеством, но он не решает потенциальные структурные проблемы: в среде, благоприятной для нападения, всегда существует постоянный риск катастрофы, или кто-то может позиционировать себя как защитника и занять доминирующее положение навсегда. Что касается ИИ, он также не может должным образом решить риск ослабления власти человечества по сравнению с ИИ.
Дифференцированная защита ускоряется, но игнорирует "децентрализацию и демократию"
Чтобы достичь целей безопасности, принимается централизованный контроль, что всегда привлекало определенную часть людей. Читатели, безусловно, знакомы с множеством таких случаев и с их негативными последствиями. В последнее время некоторые выражают опасения, что крайний централизованный контроль может быть единственным способом справиться с будущими крайними технологиями: например, представьте себе гипотетическую ситуацию, когда "каждый носит 'ярлык свободы' — это более ограниченная версия современных носимых устройств для мониторинга, подобная браслетам, которые используются в некоторых странах в качестве альтернативы тюремному заключению... зашифрованное видео и аудио постоянно загружаются и в реальном времени обрабатываются машинами". Однако у централизованного контроля есть проблемы с уровнем. Одна форма централизованного контроля, часто игнорируемая, но все же вредная и относительно мягкая, проявляется в области биотехнологий (, например, в отношении продовольствия и вакцин ), которые подвергаются сопротивлению со стороны общественности, а также в отношении закрытых норм, позволяющих этому сопротивлению оставаться неоспоримым.
Риски этого подхода очевидны, поскольку сам центр часто становится источником риска. Мы уже стали свидетелями этого во время пандемии COVID-19, когда финансируемые несколькими основными мировыми правительствами функциональные исследования могли быть источником пандемии; централизованная эпистемология привела к тому, что Всемирная организация здравоохранения в течение многих лет отказывалась признавать, что вирус COVID-19 передается по воздуху, а обязательное социальное дистанцирование и принудительная вакцинация вызвали возможные политические последствия, которые могут длиться десятилетиями. Подобные ситуации с высокой вероятностью могут повториться в любых рискованных сценариях, связанных с ИИ или другими рискованными технологиями. В отличие от этого, децентрализованный подход будет более эффективно справляться с рисками, исходящими от самого центра.
Децентрализованная защита, но отвергает ускорение
По сути, это попытка замедлить технологический прогресс или способствовать экономическому спаду.
Эта стратегия сталкивается с двойными вызовами. Во-первых, в целом технологический и экономический рост крайне полезен для человечества, и любое его замедление может иметь непредсказуемые последствия. Во-вторых, в неавторитарном мире застой является нестабильным: те, кто «обманывает» больше всего и находит кажущиеся разумными способы продолжать развитие, окажутся в выигрышном положении. Стратегия замедления может работать в определенных ситуациях: например, европейская еда более полезна, чем американская, это является примером; успехи в области недопущения распространения ядерного оружия на данный момент тоже это подтверждают. Однако эти стратегии не могут работать вечно.
С помощью d/acc мы стремимся достичь следующих целей:
Другой взгляд на d/acc заключается в возвращении к рамкам движения пиратской партии в Европе конца 2000-х годов: расширение прав и возможностей.
Наша цель состоит в том, чтобы создать мир, который сможет сохранить человеческую активность, реализовать негативную свободу, то есть избежать активного вмешательства со стороны других в нашу способность формировать собственную судьбу, будь то обычные граждане, правительство или суперинтеллектуальные роботы (, одновременно реализуя позитивную свободу, то есть обеспечивая наличие знаний и ресурсов для осуществления этой способности. Это перек呼应 классической либеральной традиции, которая прослеживается на протяжении нескольких веков, включая внимание Стюарта Брандта к "доступу к инструментам", а также акцент Джона Стюарта Милля на образовании и свободе как ключевых элементах человеческого прогресса — возможно, также стоит добавить видение Бакминстера Фуллера о том, что процесс глобального решения проблем должен быть участническим и широко распределенным. Учитывая технологический ландшафт XXI века, мы можем рассматривать d/acc как способ достижения этих же целей.
Третье измерение: Синхронное развитие выживания и процветания
В моей статье прошлого года d/acc особенно сосредоточилось на защитных технологиях: физической защите, биозащите, киберзащите и информационной защите. Однако простая децентрализованная защита недостаточна для создания великого мира: нам также нужно проактивное позитивное видение, которое четко определяет, что человечество сможет достичь после получения новой децентрализации и безопасности.