schegloff

... за последний год все человечество как есть ощутимо и резко поглупело, даже когда-то элементарные подпрограммы поведения отказываются работать, везде ломается не то что компьютерный код, сделанный все более скверно и плохо, - нет ломаются бипеды уже в самой основе функционирования их систем “сознания”...

Будучи фантастом, я как-то придумал фантдопущение ("Дипломат особого назначения") о естественном механизме, препятствующем возникновению сверхцивилизаций - регулярный, раз в 200-250 лет, психоэнергетический "вихрь", со сверхсветовой скоростью проходящий через галактики и зачищающий все развитые цивилизации путем повышения уровня агрессивности их жителей с сопутствующим снижением интеллекта.

Если верить Ужасу, это не допущение, а чистая правда - и развитая цивилизация без золота невозможна, и когда она его добудет достаточно, золото закупоривает мозговые извилины, автоматически организуя зачистку. А все потому, что вселенная уже плотно заселена сверхсуществами, для которых наша звонкая монета - их собственные извилины. А мы, соответственно - их альцгеймер.

Моя история началась с того, что за пару лет до поступления в университет, году в 2002, я увидел в кино компьютеры и они мне очень понравились...

Все то же самое, только в СССР я увидел компьютеры на двадцать пять лет раньше, и не в кино.

Как вы наверное помните, идея заняться математикой как языком программирования пришла мне в голову буквально на днях, в августе 2016. Казалось бы, остальное человечество, и входящие в его число математики, должны были сообразить то же самое значительно раньше, и давно уже переделать математику в 146% техническую дисциплину. Тем более, что необходимость этого известна уже давно:

Много веков что математические доказательства, что математические построения (как в геометрии: помните, там часто достраивают всякие штуки, чтобы доказательство провести) записывали обычными человеческими словами. В 19ом веке случился кризис, стало понятно, что если доказательства записывать недостаточно строго, возможны очень тонкие ошибки, которые очень тяжело заметить.

Возникла необходимость разработать строгий формальный язык для записи утверждений и доказательств. Такой, чтобы в правильности доказательства можно было убедиться алгоритмическим образом. Говоря современным языком, чтобы доказательство можно было скормить компьютеру, а он его верифицировал.

Идеи на эту тему были уже у Декарта и Лейбница, но первая попытка сделать такой язык и такую систему принадлежит Фреге с его Begriffschrift...

Однако выяснилось, что к решению этой задачи математики приблизились лишь совсем недавно, да и то далеко не все:

...мне удалось создать унивалентный подход к формализации, который позволяет использовать программную оболочку UniMath для того, чтобы записывать те утверждения, которые мне нужны. Сейчас я могу запросто записать лемму и проверить ее доказательство, у меня есть этот язык. Точнее, язык был давно - он называется Coq, но теперь я знаю, как его использовать для решения математических задач.
- Как все же родилась UniMath?
- Ее ядро - мои Foundations и еще несколько библиотек, которые использовали “основания” в качестве базиса. Я был инициатором всего этого, потом привлек к работе нескольких людей. Сегодня в команде Unimath Development Team четыре человека. Помимо меня это Бенедикт Аренс, Даниэл Грейсон и Майкл Уоррен. Само название UniMath года полтора назад подсказал Дэн Грейсон.
- Вы же не специалист в программировании, а здесь наверняка приходилось писать коды, программы.
- Кстати, я умею писать программы. Когда-то на первом курсе мехмата я подрабатывал, преподавая программирование. Так что в этой области я себя чувствую комфортно. Но практически мне этого делать не пришлось, потому что я задействовал готовую систему Coq, которая к тому времени существовала лет 20... Она очень общая, ее можно применять для многих целей. В том числе для того, чтобы проверять логические манипуляции. Оттолкнувшись от нее, я придумал новый стиль ее использования, новый способ записывать математику.
- А вы можете сказать: разработанная мною программа уже позволила мне сделать то-то и то-то? Или вы продолжаете работать над совершенствованием системы UniMath, и это сегодня основная ваша задача?
- Я сейчас продолжаю заниматься не столько даже совершенствованием UniMath, сколько тем, чтобы убедить математиков, что способу использования компьютерной системы, который я придумал, действительно можно доверять. То есть если система говорит, что доказательство правильное, то оно действительно правильное. Это неочевидно, в этом надо людей убедить.

Так что не успел я даже собраться поизучать математику - а уже оказался впереди паровоза :)

У партии и правительства есть план, и он уже выполняется:

- О работе комиссии ФАНО нас предупредили заранее, попросили всех в рабочее время быть на местах. И вот началось. Распахивается дверь, влетают две тетки с повадками тюремных надзирательниц. "Всем встать, компьютеры не выключать, отойти от столов". Начали рыться в столах, потом в компах - на предмет постороннего содержания. Вопрос: где такой-то? - Он лекцию в университете читает - Как, в рабочее время? Пусть пишет объяснительную. - А такой-то где? - Пошел в ИЯФ, в центр коллективного пользования - Зачем? Мог бы взять прибор и на рабочем месте работать - Вы что, это же ускоритель! - Нам без разницы, с него тоже объяснительная.

В точности как при Юрии Владимировиче Андропове, когда подобные рейды проводились в кинотеатрах - "Кто такой? Почему не на работе?!". Вот только Андропов умер, и выход из кризиса пришлось прекратить, а сейчас он будет доведен до конца!

Не среагировал вовремя, исправляюсь. По наводке alex_k.

Сначала Пикетти, знаток истории капитализма:

"Утверждение, что Билл Гейтс изобрел компьютер собственными силами, не более чем шутка. Кто бы его создал, если бы не было компьютерных исследований и системы патентов?"

А затем доцент Высшей школы экономики, специалист по финансам и банковскому делу:

Например, в США Федеральная резервная система была создана в качестве ответа на Великую депрессию.

Ну то есть конечно наши доценты ихних кандидатов значительно круче, но ихние тоже не стоят на месте. Того и гляди, догонят.

В общем, "тем хуже для фактов".

Давненько не вспоминал про Юдковски, и вот отличный повод:

Граница между этими группами отнюдь не проходит по уровню интеллекта или образованию или еще чему-то такому, вполне можно быть умным, образованным человеком во второй группе. Она не проходит по уровню знакомства с компьютерами. Некоторое техническое знание компьютеров помогает вернее попасть в первую группу, но много знаний не нужно, это не вопрос какого-то глубокого экспертного знания. Нет, граница между ними проходит по определенному типу мышления, по умению оценить происходящее в мире и правдоподобие разных версий, по интуитивному схватыванию вероятностного разброса. Я не знаю, как еще точнее это определить (продолжаю думать над этим). Но люди из первой группы умеют что-то важное, что недоступно людям из второй группы.

Умение интуитивно оценивать вероятности - как раз отличительная черта "баейсианцев".

Правда, пока что таких умельцев немного, и погоды они не делают. Что бы там ни было написано по ссылке.

Родина наградила героя:

Живет он сейчас в одной небольшой комнате, где царствует строгий минимализм, если не сказать — аскетизм. Там есть стол и кровать, книги, компьютер. Всё. Продукты — пирожки, бутерброды, чай и т. д. приносит ему из местного магазина один старый друг.

На улицу, как я понял, героя не выпускают. Или и в самом деле ногу прострелили :(

Вообще-то в "Превосходстве" есть один не совсем тупой (в отличие от всех остальных) момент. У сверхчеловеческого супермозга (который всем хорош, но не обладает "самосознанием", в отличие от человека) спрашивают: "А у тебя есть самосознание?". Супермозг отвечает "с юморком и этикетом": "А у Вас?".

Ответ неправильный, и когда его дает человек, скопированный в супермозг, человека принимают за компьютерного монстра и начинают уничтожать с помощью "вежливых людей" и взятия заложников. Вполне успешно, конечно, человек же.

Так вот, а какой должен быть правильный ответ? Недавно я задал тот же вопрос в комментариях: "Сдается мне, что Вы бот, напишите чего-нибудь, чтобы доказать обратное". Что я ожидал прочитать? Да примерно следующее - "Я конечно понимаю, что Вам неприятно читать ХХХ, которое Вы уже слышали от тысячи ботов, но я действительно так думаю, потому что YYY".

То есть "самосознание" на деле проверяется способностью осознать точку зрения другого на ситуацию. И правильный ответ супермозга должен был быть "Вы наверное подозреваете, что я злобный компьютер и собираюсь поработить человечество, а сами при этом работаете на АНБ США с теми же самыми целями, так забейте уже".

Посмотрел вчера "Грань будущего", и возник у меня один вопрос.
( Collapse )

Пока Юдковски мучительно выкраивает время на завершение HPMOR, ... некто alexanderwales (/u/alexanderwales) написал неофициальное альтернативное продолжение, начиная примерно с главы 94, под названием Harry Potter and the Philosopher's Zombie.

По ссылке есть русский перевод этого фанфика на фанфик, посвященного проблеме "обладают ли зомби и привидения сознанием, идентичным сознанию живого человека". Во вселенной Юдковски ответа на этот вопрос нет:

«Мы думаем, что мы знаем, что привидения — это что-то типа магической записи шаблонов, но как таковые, сознанием они не обладают».

«И мы знаем это потому что я прочитала это у Лукреция Фетерботтома в Течениях Древних Смертей» — сказал призрак Гермионы.

«Но откуда он это знал?» — спросил Гарри — «Он был волшебником, так что, скорее всего, никаких экспериментов он не проводил...»

Косвенным свидетельством в пользу отсутствия сознания у призраков является тот факт, что нам ничего не известно о призраках, активно участвовавших в политических интригах магической Британии. В то же время, лично мне ничего не известно и о том, насколько легко уничтожается призрак, сунувший свой нос не в свои дела (что юридически такое уничтожение ненаказуемо, вроде бы понятно). Так что вопрос безусловно заслуживает экспериментальной проверки.

Предположим, что мы научились "копировать человека на дискету" и запускать эту дискету с доступом к клавиатуре. Получившийся "призрак" несомненно способен работать программистом и проводить электронные платежи (а при некотором апгрейде программы - еще и вести переговоры по скайпу). Писать на эту тему фантастический роман мне лень, но некоторые вопросы было бы любопытно обсудить.

Вы бы посчитали такого "призрака" разумным существом? Взяли бы на работу? Подали бы на него в суд, если бы он Вас кинул? Или прислали бы ему хакера-киллера?

И с другой стороны: признал бы такой "призрак" белковых людей разумными существами? Ведь они в некоторых задачках безнадежно отстают от самого примитивного компьютера :)