January 27th, 2018

Вычислительная метафора

Во-первых, выяснилось, что дележ власти в обезьяньей стае (чем мы, по большому счету, всю жизнь и занимаемся) - всего лишь вычисления

[Коллективное вычисление, выясняющее, кто в обезьяньей стае власть, требует множества драк с участием от 2х до 30+ особей..., подробнее см. в телеграм-канале "малоизвестное интересное"]

Во-вторых, появилась модель того, что принято называть "сознанием" (я Вася, а не какой-нибудь Петя): В работе Деана и его коллег определены 3 вычислительных уровня сознания: «Бессознательное», «Осознанный доступ к информации» и «Осознанное самоопределение».

Добавление всего лишь второго уровня в вычислительную модель позволило с легкостью решить тысячелетние философские проблемы ("психофизическую" и "трудную проблему сознания"):

Стало понятно, что сознание не просто эпифеномен (бесполезный побочный эффект деятельности мозга, подобно свистку поезда). Сознание — это результат эволюции интеллекта, приведший к возникновению у него новых уникальных когнитивных возможностей.

Несмотря на то, что вот уже несколько веков считается, что сознание несводимо к чисто физическим процессам, эмпирические данные свидетельствуют об обратном. Существует возможность (пока что чисто теоретическая) возникновения сознания в результате исключительно вычислительных процессов обработки информации.


Может быть, наш мир и не является компьютерной симуляцией в смартфоне какого-нибудь инопланетного тинейджера - но устроен так, что симуляция вполне может его заменить.

Коррекция ошибок толпы

Как известно, между лекарством от рака и седьмым айфоном большинство людей не задумываясь выбирает айфон (а в фюреры, конечно же, Гитлера). То же самое происходит и при краудфандинге: "лазерное лезвие" собирает миллионы, а толковые проекты остаются неизвестными (вот, даже я ни одного не припомню). Большинство всегда неправо, но поскольку его больше, это не его проблема.

Поэтому меньшинство прилагает некоторые усилия, чтобы придумать способ скорректировать дурость толпы. Например так:

До гениальности простой, как формула Е=МС2, новый алгоритм краудсорсинга уменьшает ошибку «мудрой толпы» при ответе на бинарный вопрос на 22-24%. И это в корне меняет применимость краудсорсинга.

Новый алгоритм основан на том, что вместо одного вопроса задается два. Первый – это основной вопрос (например, - является ли Филадельфия столицей штата Пенсильвания?). А второй – это просьба предсказать, какой процент участников ответит на 1й вопрос «Да».

Вот и все. Дальше чистая математика, утверждающая, что правильным будет «неожиданно популярный» ответ (т.е. популярный вопреки ожиданиям участников)
. [Малоизвестное интересное, 2017-02-17, первоисточник]

Или такой:

1) Традиционная система вознаграждения в краудсорсинге предсказаний (например, рынки предсказаний или научный поиск) или поиске верных ответов/решений) награждает тех, кто дал правильный ответ или точно предсказал. Такая система вознаграждения стимулирует рост практически всех негативных психологических эффектов, свойственных краудсорсингу (стадное поведение, заякорность мышления, тяга к наиболее популярному, доминирование горлопанов и т.д.) Тем самым систематически выпадают из рассмотрения многие факторы, которые, взятые по отдельности, имеют ограниченную предсказательную силу, но способные внести вклад в агрегированные предсказания, если бы краудсорсера можно было убедить обратить на них внимание.

(2) Чтобы максимизировать коллективную мудрость группы, люди не должны вознаграждаться только за то, что сделали успешные предсказания или выводы. Общее вознаграждение не должно распределяться только среди тех, кто был успешным или точными. Вместо этого, награды должны быть в первую очередь направлены на тех, кто сделал успешные предсказания, противоречащие мнению большинства участников.

Т.е. наибольшее вознаграждение должно выдаваться за ОСОБОЙ МНЕНИЕ, ОКАЗАВШЕЕСЯ ПРАВИЛЬНЫМ.
[Малоизвестное интересное, 2017-05-16, первоисточник]

То есть если Вам нужно нанять в проект много людей, и при этом оптимальным образом использовать их интеллекты (не в режиме "дурость толпы", а в режиме "хоть немного умнее самого глупого") - то для этого уже придуманы некоторые способы.

Но что характерно - только в 2017 году.

Киберпанк на марше

Все, последний копипаст "малоизвестного", и работать:

9 из 10 считают, что главные угрозы в области кибербезопасности в том, что у вас украдут деньги со счета, залезут в ваш компьютер, воспользуются вашими паспортными данными и заснимут вас за неприглядным занятием. Поверьте, все перечисленное – это цветочки. А ягодки в том, что 9 из 10 самых страшных угроз в области кибербезопасности заключаются совсем в ином.

...именно о них говорится в большом интервью (видео 44 мин. и текст) (https://www.edge.org/conversation/ross_anderson-the-threat) Росса Андерсона – профессора инжиниринга безопасности Кембриджского университета.... перечислю лишь 3 момента, из наиболее мне запомнившихся.

1. Есть три вида лжи: ложь, наглая ложь и статистика. Последняя пытается нас убедить, что преступность не растет и даже падает. На самом деле, в этом году в Великобритании от рук преступников пострадают примерно 1 млн. семей, а от рук киберпреступников до 4 млн. семей.

А дальше ситуация станет еще сложнее, поскольку возникают десятки классов новых, доселе невообразимых преступлений.

Например, крупные автопроизводители собираются автоматически обновлять программное обеспечение своих авто раз в месяц.

Это значит, что скоро появится преступник, который потребует денег от владельцев таких авто, иначе он отключит им тормозную систему на полной скорости.

2. Люди постоянно говорят о вредоносном ИИ и всякой научной фантастике про то время, когда роботы возьмут на себя выполнение человеческих функций, оставят нас без работы, а то и взбунтуются.

Меня же беспокоит совсем другое. То, что сейчас у нас уже есть люди, чьи способности, сознание и восприятие чрезвычайно усиливается за счет использования инструментов аналитики больших данных, Интернета вещей и прочих прорывных технологий.

Уже сегодня, мало-мальски способный аналитик способен только из открытых источников накопать компромат почти на любого человека или бизнес.

Все шумят про Сноудена и Викиликс. Но это пустое. Хакеров уже десятки тысяч. А когда их будет миллионы, кто их сможет остановить.

3. Является ли использование гибридного кибер-конфликта с использованием беспилотников, вместо вооруженного конфликта с использованием самолетов и танков, улучшением безопасности?

Поживем-увидим. Но уже очевидно – здесь есть большие риски, связанные со снижением порога для конфликта.

А это значит, что лет через 10 на Земле могут начаться гибридные кибер-войны всех со всеми: страны со странами, конкуренты с конкурентами, соседи с соседями.

Тем более, что мы уже знаем о растущей тенденции людей группироваться в «красной вселенной» и «синей вселенной», где вы слышите только те сообщения от людей, которые имеют шанс вам понравиться. Это происходит, потому что Facebook и Google решили так направлять сообщения к вам, чтобы было удобней вас группировать для последующего кормления рекламой. Таким образом, мы имеем все меньше и меньше политического пространства, в котором все мы можем взаимодействовать и обсуждать вещи с людьми, с которыми мы не всегда согласны.

И это делает снижение порога конфликтов еще более опасным.

Нужно осознавать, что угрозы цифрового мира – это не новые угрозы для старого мира.
Это новый мир с новыми угрозами, отразить которые, да и просто выжить сможет лишь новое человечество. И состоять оно будет из новых людей, столь же мало похожих на прежних, как и новые угрозы.


Все это наконец-то становится похожим на гибсоновский Count Zero, опубликованный в 1986 году (когда Интернет еще пешком под стол ходил, а до идеи HTML оставалось еще пять лет). Так и хочется, вслед за отдельными товарищами, сказать - Люди Работают (tm) :)