4 февраля 2019

Цифровая революция не закончилась, но стала чем-то иным

Джордж Дайсон, новогоднее эссе 2019 года для EDGE

Страны, союзы стран и национальные институты в упадке, в то время как государство, которое лучше назвать олигархией, находится на взлёте. Джордж Дайсон рассказывает об этом в первом в новом году эссе EDGE.

Джордж Дайсон — историк науки, автор книг «Собор Тьюринга» и «Дарвин среди машин».

Цифры теперь управляют миром. Но кто управляет машинами?

Все революции когда-нибудь заканчиваются — вне зависимости от того, успешны они или нет.  Цифровая революция началась, когда компьютеры с прописанными в них программами сломали разницу между цифрами обозначающими и цифрами действующими. Цифры действительно теперь управляют миром. Но кто управляет машинами?

Когда-то всё было просто: программисты писали инструкции и загружали их в машины. Пока машины контролировались этими инструкциями — те, кто писал инструкции, и управляли машинами.

Все революции когда-нибудь заканчиваются — вне зависимости от того, успешны они или нет.

После случились две вещи. По мере разрастания мира компьютеров прописывающие инструкции люди уже не могли угнаться за неутолимыми аппетитами машин. Код стал самовоспроизводящимся, машины стали снабжать инструкциями другие машины. Вложившиеся в это приобрели гигантские состояния. Немногочисленные люди и корпорации, которые поспособствовали распространению самовоспроизводящегося кода, вошли в число самых богатых и влиятельных лиц и организаций планеты.

Затем что-то изменилось. Кода теперь больше, чем когда-либо прежде — но всё сложнее найти кого-то конкретного, кто держит руки на штурвале. Индивидуальное вмешательство сошло на нет. Большинство из нас основную часть времени следуют указаниям, получаемым от компьютеров, а не иначе. Цифровая революция прошла полный цикл и началась новая революция — аналоговая. Никто не смеет назвать её по имени.

«Конец детства» — научно-фантастический шедевр Артура Кларка, опубликованный в 1953 году. Он рассказывает историю пришествия благожелательных Сверхправителей, которые принесли человечеству многие из удобств, ныне предоставляемых Земле Владыками Интернета. Добром это не кончилось.

Тем, кто ищет подлинный разум, автономность и контроль в мире машин, стоит обратить внимание на мир аналоговых, а не цифровых вычислений.

Цифровая революция прошла пять этапов. Тёплые ламповые аналоговые вычислительные машины из соображений военной целесообразности сменились первым поколением полностью электронных компьютеров с загружаемыми программами. Эпоху больших центральных мейнфреймов сменило время микропроцессоров и персональных компьютеров. Затем родился интернет — и наконец мы пришли в эру «многоклеточных» кодов, населяющих мобильный информационный ландшафт современности. Следующим этапом революции станет сборка цифровых элементов в аналоговые компьютеры — примерно так же, как аналоговые компоненты складывались в цифровые компьютеры после Второй мировой войны.

Природа использует цифровые коды для хранения, репликации, рекомбинации и коррекции ошибок в последовательностях нуклеотидов, но полагается на аналоговые механизмы и вычисления для поддержания мышления и управления. На этом уровне нет программирования и кодов. Тем, кто ищет подлинный разум, автономность и контроль в мире машин, стоит обратить внимание на мир аналоговых, а не цифровых вычислений.

Цифровые компьютеры имеют дело с целыми значениями, бинарными последовательностями, детерминистской логикой, алгоритмами и временем, которое сводится к дискретному возрастанию. Аналоговые компьютеры работают с действительными числами, недетерминистской логикой и непрерывными функциями — включая континуальное время реального мира.

В аналоговых вычислениях сложность определяется топологией, а не кодом. Информация обрабатывается в них как непрерывные функции значений напряжения и относительной частоты импульсов, а не логическими операциями над дискретными строками битов.

Цифровые вычисления не допускают ошибок и неоднозначностей, они критически зависят от точных определений и коррекции ошибок на каждом шаге. Аналоговые вычисления не просто терпят ошибки и неоднозначности — они расцветают на них пышным цветом. В техническом смысле цифровые компьютеры — те же аналоговые, которые настолько ограждены от шумов, что потеряли к ним всякий иммунитет. Аналоговые компьютеры живут шумом; нейронные сети реального мира требуют для работы определённого его уровня.

Электроника за прошедшие 100 лет совершила два фундаментальных перехода: от аналогового к цифре, и от вакуумных трубок к твердотельным накопителям. Синхронность в этом случае лишь опциональна. Цифровые вычисления впервые осуществили на основе вакуумных трубок, а аналоговые вполне можно провести на твердотельной базе. Аналоговые вычисления живы и процветают по сей день — ну а вакуумные трубки смела невидимая рука рынка.

Гениальность — где-то сознательная, где-то нечаянная — этих продолжающих возвышение корпораций заключается в том, что они прошли-таки сквозь зеркало. И переродились во что-то совсем иное. Их модели больше не являются моделями.

Впечатляющий успех цифровых компьютеров в моделировании явлений реального мира на основе программных алгоритмов, выходные данные которого используются для контроля всевозможных аспектов текущей реальности, затмил многие совсем иные способы использования цифровых вычислительных машин и их сетей. Алгоритмы и цифровая симуляция настолько укоренились в нашей культуре и мировосприятии, что мы почти что не способны увидеть, как другие формы вычислений, без алгоритмов и цифровых моделей, успешно контролируют большую часть нашего мира.

Мы можем предполагать, что некая владеющая поисковыми системами компания выстраивает модель человеческих знаний и позволяет нам обращаться к ней с запросами. Или что некая другая компания — или та же самая — строит модель дорожного трафика и предоставляет нам к ней доступ. Или ещё какая-то компания создаёт модель социальных графов — и разрешает нам регистрироваться в получившейся социальной сети за не очень подробно прописанную в пользовательском соглашении цену. Нам кажется, что некая армия программистов ещё что-то где-то контролирует, но мир теперь работает совсем не так.

Гениальность — где-то сознательная, где-то нечаянная — этих продолжающих возвышение корпораций заключается в том, что они прошли-таки сквозь зеркало. И переродились во что-то совсем иное. Их модели больше не являются моделями. Поисковые машины перестали быть моделями человеческих знаний — теперь они и есть человеческие знания. То, что начиналось как отображение смыслов нашего вида, ныне стало контролировать, а не каталогизировать и систематизировать человеческую мысль. И этим никто не управляет.

Если достаточное количество водителей подписываются на геоинформационную систему, действующую в реальном времени — трафик контролируется только самим трафиком, а не центральной моделью. Популярная социальная сеть перестаёт быть моделью социальных графов — она и есть социальные графы. В этой игре победитель забирает всё. Правительства с их приверженностью устаревшим моделям и системам контроля остаются за бортом.

Ответом мироздания тем, кто стремился контролю над ним через программируемые машины, станет создание машин, сама природа которых исключает возможности программного контроля.

Эти новые гибридные организации выстроены на основе цифровых компьютеров, но функционируют как аналоговые компьютеры глобального масштаба. Они работают с непрерывными функциями и обращаются с потоками битов точно так же, как вакуумные трубки поступают с потоком электронов. Ну или как нейроны работают с информацией в нашем мозге. Большие гибридные сети аналоговых и цифровых вычислительных машин в форме экономик существуют уже долгое время, но большую часть времени информация циркулировала в них со скоростью перевозок золота и серебра. Теперь она движется со скоростью света.

Мы предполагаем, что некие личности или отдельные алгоритмы всё ещё управляют чем-то за кулисами. Мы обманываем сами себя. Всё большую часть нашего мира контролируют новые стражи врат, правящие потоками информации.

Нам стоит пристально вглядеться не в успехи нескольких корпораций, оседлавших мощь гибридных аналогово-цифровых вычислений, а в то, что происходит, когда эта мощь вырывается на волю и поглощает весь оставшийся мир.

Следующей революцией станет восхождение аналоговых систем, которые положат конец эпохе господства цифрового программирования. Ответом мироздания тем, кто стремился контролю над ним через программируемые машины, станет создание машин, сама природа которых исключает возможности программного контроля.

Перевод Erwin

Комментарий читателя Mnemonic:

— Думается мне, что автор данного опуса запутался в понятиях, выдумал что-то своё и на основе этого строит выводы.

«Пока машины контролировались этими инструкциями — те, кто писал инструкции, и управляли машинами»

— Как будто сейчас как-то иначе. Индустрия написания софта просто постепенно взрослеет, так же, как когда-то повзрослела инженерная механика, или металлургия, химическое производство, селекция — и прочее, и прочее.

Поэтому и софт сейчас сложный, не в плане сложности написания, а в плане его многослойности. За счёт этого не специалисту за лесом не видно деревьев.

Точно также можно сказать и про атомный реактор: сложнейший механизм, но тем не менее, если устройство создавалось согласно стандартам, то специалистам всё понятно.
А стандарты — признак взросления индустрии.

«По мере разрастания мира компьютеров, прописывающие инструкции люди уже не могли угнаться за неутолимыми аппетитами машин. Код стал самовоспроизводящимся, машины стали снабжать инструкциями другие машины»

— Глупости, никакие машины не пишут сами себе код. Если автор имеет в виду нейросети — то и те и тренируются, и настраиваются под чутким руководством разработчиков. И действуют во вполне ограниченных рамках.

«Вложившиеся в это приобрели гигантские состояния»

— Тут как обычно и сто лет назад: кто-то разбогател, а кто-то банкрот. Просто о последних не принято вспоминать.

«Индивидуальное вмешательство сошло на нет. Большинство из нас основную часть времени следуют указаниям, получаемым от компьютеров, а не иначе»

— Тут внезапно автор перескакивает от понятия разработчика до потребителей продукта. Индивидуальное вмешательство в сложные системы, построенные сотнями и тысячами людей, очевидно, будет мизерным. Касаемо потребителей всё просто: дело в том, что люди существа ленивые по природе. Получая более лёгкий способ достигать чего-либо, они начинают им пользоваться. Зачем что-то помнить, если это легко нагуглить? В этом столько же плохого сколько и хорошего. Просто в виде интернета мы получили доступный и лЁгкий инструмент доступа к знаниям, которыми делятся другие, и толковым знаниям, и никчемным, и вообще лживым.

Автор возводит «аналоговые» компьютеры в ранг некой панацеи и при этом элемент хаоса или неуправляемости. Я в этом не совсем уверен зачем, так как наравне с чисто цифровыми технологиями в нашей жизни всё ещё полно аналоговых. Люди, как правило, используют те методы, которые лучше всего или удобнее всего подходят для решения тех или иных задач.

Да, в индустрии сейчас происходит этап поиска альтернативных вычислительных подходов. Но в основном это делается либо для обхода существующих технических пределов, либо для решения специфических задач, как то моделирование квантовых процессов.

«Нам кажется, что некая армия программистов ещё что-то где-то контролирует – но мир теперь работает совсем не так»

— Как показала недавняя эпопея с защитой ряда прав пользователей на законодательном уровне в Европе (General Data Protection Regulation), всё прекрасно контролируется, а нарушители платят штрафы.

«То, что начиналось как отображение смыслов нашего вида, ныне стало контролировать, а не каталогизировать и систематизировать человеческую мысль»

— Ой, бросьте. Алгоритмы, по которым строятся приоритеты показываемой информации в поисковиках и соцсетях — в первую очередь сделаны для продажи рекламы. Вполне осмысленно, человеками, пишущими код руками.

И в этих программах есть глюки и недоработки. Практически все известные поисковики не понимают понятия времени. Для них проплаченная статья пятилетней давности всегда важнее свежей. На YouTube бушуют алгоритмы которые развешивают направо и налево копирайт страйки или подчищают «ботов». Нам всем жить с этими глюками, пока люди их не поправят.

«Популярная социальная сеть перестаёт быть моделью социальных графов – она и есть социальные графы. В этой игре победитель забирает всё. Правительства с их приверженностью устаревшим моделям и системам контроля остаются за бортом»

— Это иллюзия и не более.

«…которые положат конец эпохе господства цифрового программирования»

— Как и эпохе господства выращивания кукурузы или откатки рельс. Или всё же нет? Мы всё так же продолжаем выращивать кукурузу и строить новые железные дороги.