Category: технологии

Category was added automatically. Read all entries about "технологии".

Что делать (3a): О настоящих задачах моделирования общества

Вытащу комментарий [profile] tvrjert из чужого ЖЖ почти полностью, поскольку коротко, точно и совершенно в русле ЧД:

1) Вкратце про нейросеть. Нейросеть в процессе обучения выделяет скрытые зависимости исследуемой системы, оставаясь для ее оператора вещью в себе, т.е. уровень знаний оператора при наличии обученной нейросети не растет. Обучить нейросеть можно либо на большом количестве примеров с известными ответами, либо используя обратную связь через исследуемою систему. Оба этих метода на реальном обществе невозможны. Метод обратной связи невозможен, если конечно у вас нет миллиона лишних лет и десятков тысяч лишних цивилизаций загубленных в процессе обучения. Обучение на примерах невозможно, т.к. все, что мы знаем это исторический опыт прошлых поколений, который крайне не достоверен и по объему чрезвычайно мал. И тут оказывается, что то, что ныне называется нейросетями обучается в тысячи раз медленнее человека и вдобавок крайне плохо это делает на изначально недостоверном наборе данных. Т.е. человек, как самообучающаяся система изначально заточен на максимально быстрое обучение по ограниченному недостоверному набору данных, что понятно - иначе бы он вымер как вид. И смею заверить, что то, что имеется в новой коре и то, что считается искусственной нейросетью - две огромные разницы.
В результате обучить что либо перечисленными Вами методами Вы можете исключительно не на реальном обществе а на его модели, но если у вас есть работающая модель, то нейросеть вам не нужна, а если модель работает плохо, то и нейросеть работать может только хуже модели, а никак не лучше.
Поэтому я прекрасно могу представить современную нейросеть распознающую котиков, и даже нейросеть водящую машину (хотя здесь все уже гораздо хуже). Даже могу представить нейросеть играющую на бирже. А вот электронный болван обученный другим электронным болваном на непонятно откуда взятых мурзилках - увы ничем не будет лучше людей в задачах управления обществом.

2) Но самое ужасное в том, что я писал вообще про совсем друге. Уровень управления который видимо не входит в имеющуюся картину мира. Посему последняя попытка.
Представьте себе, что Вы бог осуществляющий акт творения. Вы можете в некоторых значениях менять основополагающие законы, вроде гравитационной постоянной, или постоянной планка.
Цель выбрать такой набор исходных параметров, чтобы в созданной вселенной сама зародилась и развилась жизнь, которая перешла бы в разум с изначально заданными свойствами. При этом в сам процесс саморазвития вмешиваться вам запрещено.
Вот именно эту задачу решают создатели религии или условные "каббаллисты". Религия и идеология меняют в определенных пределах законы поведения людей. В результате общество, как сложная система самоорганизуется в другую форму, относительно того, что бы было, если бы религии не было.
Это уровень управления гораздо более высокий, чем тупая регулировка учетной ставки.
И чем условному "кабаллисту" поможет некая абстрактная нейронная сеть, если всем, что он может пользоваться это крайне ограниченный и недостоверный опыт предшественников, а следующую попытку смогут сделать только его условные потомки? Вопрос естественно риторический.
Самое ужасное, что про это абсолютно бессмысленно даже говорить, т.к. уровень понимания таков, что не позволяет представить, что так вообще можно делать. Не говоря уже о том, чтобы всерьез обсуждать имеющийся инструментарий и практические проблемы.


Тут можно было бы много чего добавить, но лучше это сделать в комментариях.

В лапах бездушного ИИ

Если людей обучать как ИИ

То и результаты получаются лучше, что было обнаружено еще в 2006 году:

Шведский психолог по имени Андерс с оригинальной фамилией Эриксон проводил много экспериментов, связанных с обучением. В частности он заметил, что многие доктора теряют навыки после окончания обучения. Однако, хирурги являются исключением из правил. У хирургов есть постоянная обратная связь и четкие цели. У онкологов все сложнее. Когда онколог изучает снимки, он не знает наверняка, рак там или нет. Он узнает это только через пару недель, по результам биопсии. Или еще позже, через годы, когда станет ясно, что рака нет. Без немедленной обратной связи способности доктора ухудшаются со временем. Эриксон предложил новую модель обучения по старым историям болезней. Можно посмотреть снимки, сделать заключение и сразу получить ответ из реальной истории болезни. В этом случае интенсивность обучения возрастает в разы...

Пожалуй, технологии обучения ИИ (на миллионах примерах с известными результатами) имеет смысл распространить и на людей. А с проблемами, которые возникают в первый раз, ИИ вряд ли поможет.

Что стоит за Трампом

С точки зрения теории Власти, в заголовке надо было написать "Кто". Однако методика выявления властных группировок, которую я пытаюсь создать в последние годы, все еще толком не работает, поэтому на вопрос "Кто" не будет ответа (хотя некоторые имена, конечно, прозвучат). Речь пойдет о том, какая идеология объединяет этих "кто", во что они верят и ради чего привели Трампа к власти.

1) С Трампом, и особенно с Бэнноном, Тиля сблизило убеждение, что последние 25 лет мир свернул куда-то не туда, и вместо развития производства, проникновения в глубины космоса, океана и земли увлёкся виртуальной реальностью и развлечениями. Его статья "Конец будущего" вполне может стать манифестом движения производителей...

2) Рассматривая технический прогресс с точки зрения ожиданий и надежд 1950-1960-ых, нужно отметить, что он их во многом не оправдал. Самый наглядный пример: мы больше не движемся быстрее. От многовекового процесса повышения скорости перемещения по планете – от делавшихся со временем всё стремительнее парусников XVI-XVIII веков и железных дорог XIX века к ещё более быстрым самолётам и автомобилям XX века – мы пришли к выводу из эксплуатации сверхзвуковых «Конкордов» в 2003-м году и кошмарным задержкам в аэропортах, связанным с поразительно низким уровнем технологий безопасности, введённых после терактов 11 сентября... Официальное объяснение феномену замедления скорости нашего перемещения – высокая стоимость топлива, а это уже указывает на гигантскую неудачу инноваций в энергетике.

Научная фантастика умерла как литературный жанр. Человек добрался до Луны в 1969 году, и тогда же тремя неделями спустя был проведён первый Вудстокский фестиваль. Сегодня задним умом мы понимаем, что именно тогда хиппи захватили страну, и война за Прогресс была проиграна.

Сегодняшние хиппи не понимают, что есть разница между выбором первого чернокожего президента и созданием дешёвого способа использования солнечной энергии, в их сознании движение в сторону больших гражданских прав означает параллельное движение всеобщего прогресса.
(оригинал статьи Тиля - The End of Future, 2011)

Говоря языком теории Власти, "прогресс" человечества (в лице его передового отряда, демократической партии США и "новых левых") пошел по пути разрастания систем Власти ("гражданских прав", обеспечением которых занимаются многочисленные организации, находящиеся под контролем сами знаете кого), а не систем Управления ("использование солнечной энергии", то есть реального технического прогресса).

В принципе, ничего другого ожидать и не приходилось - человек в своем абсолютном большинстве существо социальное, генетически запрограммированное прежде всего бороться за статус в иерархии (чем занимаются даже так называемые ученые). Поэтому любые технологические достижения, позволяющие меньше работать ради куска хлеба, одновременно позволяют и больше работать ради социального статуса - то есть создавать все более сложные структуры Власти (разумеется, под самыми благовидными лозунгами, защиты гражданских прав или защиты от агрессивного блока НАТО). В отличие от Власти, технологический прогресс не возникает в обществе сам собой (на протяжении практически всей истории человечества он не наблюдался, а когда наблюдался, как в Римской империи, то быстро заканчивался, вызывая к жизни легенды об инопланетянах, построивших пирамиды). Для возникновения и развития технического прогресса требуются сознательные усилия правящих властных группировок.

Поэтому тот факт, что за Трампом стоит технический прогресс, мне представляется более важным, чем персональный состав "пейпаловской мафии", "американских промышленников" или иных околотрамповских группировок. Поворот от "гражданских прав" к "солнечной энергетике" позволяет рассчитывать, что вскоре мы сможем тратить еще меньше времени на то, чтобы прокормиться.

А значит, у большинства из нас окажется еще больше времени, чтобы грызться друг с другом за Власть.

Проблемы с "сильным ИИ"

По наводке Малоизвестного интересного, статья еще 2014 года Технологическая сингулярность... (и так далее). Помимо прочего, там описана стандартная проблема с формированием искусственного интеллекта, похожего на естественный. Есть такой червь размером в 1 мм, C.Elegans, чья нервная система состоит всего из 302 нейронов. Казалось бы, бери комп и моделируй; однако быстро выяснилось, что для сравнения "реакции" модели нервной системы с реальной нервной системой необходим 1) сам червяк, т.е. остальные клетки организама, 2) внешняя среда, в которой червяк плавает (он водный). А это уже сильно побольше 302 нейронов. В результате модели "интеллекта" из 302 нейронов до сих пор нет.

Поэтому любой "сильный" ИИ нужно либо помещать в человеческое тело, и устраивать на работу в современную крупную корпорацию, - либо его переклинит при первой же задачке из реального мира. А пока это не сделано, перспективы порабощения человечества "сильным ИИ" напоминают любимую метафору Астеррота - "собрались власть в России захватывать, но не могут захватить даже коммерческий киоск".

Проблемы с созданием сильного ИИ, - пишет автор статьи, А.Д.Панов, - связаны не с недостаточной мощностью компьютеров, а с тем, что вообще непонятно, как решать эту задачу.

Понятно, что "сильный ИИ" это оружие покруче ядерной бомбы в миллион раз, и все, до чего ученые додумались на эту тему, уже за тремя кольцами оцепления с пулеметами. Но тем не менее, по эту сторону оцепления особых идей, как решать задачу, не видно.

Чем будут заниматься люди, когда всю работу отберут роботы?

Просто нормально играет в шахматы

Посмотрел три партии Alpha Zero Chess против Stockfish. Стиль Alpha Zero вовсе не "инопланетный", а самый что ни на есть правильный - стратегическая позиционная игра на ограничение подвижности противника. При этом чувствуется, что Alpha Zero понимает, что делает. А вот у Stockfish какой-то сумбур вместо шахмат.

Так что искусственный интеллект на deep learning вполне похож на человеческий. Все мы - не более чем кое-как обученные нейросети.

И снова о Бонбе, которой нет

Много лет назад мы в ЖЖ обсуждали наблюдение Астеррота, что международная политика делается так, как если бы ядерного оружия не существовало. Никто не боится ни ядерных террористов, ни Северной Кореи, ни даже вставшей с колен России. Реакция на ядерное оружие не идет дальше "выразить озабоченность".

Если бы кто-то на самом деле располагал возможностью "стереть Америку в ядерный пепел", реакция была бы несколько более нервной. В чем же дело? Я предполагал, что проблема в отсутствии реальных испытаний ЯО+ракета на протяжении нескольких десятилетий: система, которая не испытывается, не может считаться рабочей.

Но возможны и другие причины:

И есть второй компонент - ПРОГНОЗ состояния заряда на будущее, т.е. сколько лет он еще может прослужить. И вот тут, как говорится за что ни возьмись везде полные unknown unknowns. Вот тут и требуются вычмощности совершенно запредельных, недостижимых размеров.

Так вот, когда я пришел на работу в 2007-ом году в место, где такими расчетами занимались, там уже вся эта деятельность стремительно сворачивалась, финансирование внезапно просто исчезло, люди были вышвырнуты на улицу и короче НИЧЕГО больше в этом направлении не делается ВООБЩЕ.

Из сего факта безусловно можно и нужно сделать заключение, что
все современные заряды находятся за пределом боеготовности и представляют собой именно что "шипучку", которая способна разве что нагадить.


Вообще, утрата технологий, о которой часто пишет Ужас, серьезно недооценивается. А ведь с технологиями то же самое, что с техникой: то, что не используется постоянно, приходит в негодность за несколько десятилетий.

В общем, мои соболезнования френдам, надеявшимся скоро сгореть в ядерном пламени. Хренушки, придется дальше мучиться!

Прекрасный новый мир

Уважаемый Насобин пробует написать утопию на тему "что будет в недалеком будущем, когда вместо плохих элит будут править хорошие роботы". Вот характерный отрывок:

Все вместе то срок, лет на 15, наверное.

Суд в таких случаях ведет СИРИ - СУД, но его решения визируют три хьюмана. Это тоже волонтеры, но под присягой, и выбранные хьюманами на конкурсной основе. Апелляцию рассматривает судебная коллегия состоящая из хьюманов, но по этой аппеляции свое мнение выражает ИИ второго уровня. Против решения аппеляционного суда можно подать кассационную жалобу.
Весь процесс занимает в зависимости от сложности дела до трех календарных месяцев, но чаще всего приговоры выносятся в течение дня.


СИРИ-СУД - это как раз и есть хороший робот, который строго формально, на основе блокчейновых записей всех действий всех людей, вершит суд и приговаривает "хуманов" к тюремному заключению.

Обратим внимание на отличительные особенности этого нового мира:

1) по умолчанию - полный лог всех событий (иначе СИРИ-СУД забуксует - некоторую информацию придется получать от хуманов, а они лживы и склонны сбиваться в группировки и свидетельствовать за своих и против чужих)

2) тем не менее, лживые и склонные сбиваться в группировки хуманы имеют право вето на решения хороших роботов - то есть доверие к хорошим роботам даже у автора утопии неполное; выбор таких контролирующих роботов хуманов производится "на конкурсной основе", т.е. чем-то вроде всенародных выборов Единой России,

3) в качестве средства наказания сохраняется тюремное заключение - средство выведения части населения в криминальное гетто (тюрьма - не только школа преступности, но и ресоциализация заключенных как "уголовников", представителей особой, более контролируемой полицией группы, чем остальное население)

Вот именно так все и будет: 1) все ваши действия будут записываться под предлогом рассмотрения "хорошим роботом", 2) в нужных случаях решения "хорошего робота" будут подправлены правильно отобранными людьми, назначенными на соответствующие должности через сложную для населения и удобную для властных группировок процедуру, 3) а сидеть все равно придется.

И это свойство не утопии Насобина, а реального мира.