Yudkowsky E. - Rationality: From AI to Zombies / Юдковский Э. - Рациональность: от ИИ до зомби
Год издания: 2015
Автор: Eliezer Yudkowsky / Элиезер Юдковский
Жанр или тематика: Когнитивная психология, философия
Издательство: Machine Intelligence Research Institute
Язык: Английский/Русский
Формат: PDF
Качество: Изначально компьютерное (eBook)
Количество страниц: 1813
Описание: What does it actually mean to be rational? Not Hollywood-style "rational," where you forsake all human feeling to embrace Cold Hard Logic. Real rationality, of the sort studied by psychologists, social scientists, and mathematicians. The kind of rationality where you make good decisions, even when it's hard; where you reason well, even in the face of massive uncertainty; where you recognize and make full use of your fuzzy intuitions and emotions, rather than trying to discard them.
In "Rationality: From AI to Zombies," Eliezer Yudkowsky explains the science underlying human irrationality with a mix of fables, argumentative essays, and personal vignettes. These eye-opening accounts of how the mind works (and how, all too often, it doesn't!) are then put to the test through some genuinely difficult puzzles: computer scientists' debates about the future of artificial intelligence (AI), physicists' debates about the relationship between the quantum and classical worlds, philosophers' debates about the metaphysics of zombies and the nature of morality, and many more. In the process, "Rationality: From AI to Zombies" delves into the human significance of correct reasoning more deeply than you'll find in any conventional textbook on cognitive science or philosophy of mind.
A decision theorist and researcher at the Machine Intelligence Research Institute, Yudkowsky published earlier drafts of his writings to the websites Overcoming Bias and Less Wrong. "Rationality: From AI to Zombies" compiles six volumes of Yudkowsky's essays into a single electronic tome. Collectively, these sequences of linked essays serve as a rich and lively introduction to the science—and the art—of human rationality.
UPD. Добавил в раздачу частичный перевод эссе из книги.
Описание на русском
"Рациональность: от ИИ до зомби" (англ. Рациональность: С ИИ Zombies ) - это сборник из шести электронных книг, содержащих целый ряд эссе о науке и философии человеческой рациональности . Это одно из лучших мест, с которых можно начинать людям, желающим лучше разобраться в темах, часто обсуждаемых на LessWrong, таких, как когнитивные искажения, соотношение "карты" и "территории", метаэтика и экзистенциальные риски.
LessWrong - это сообщество людей, которые стремятся меньше ошибаться.
Сообщество выросло наше из Коллективного блога lesswrong.com , в основу которого лёг цикл статей Элиезера Юдковского о рациональном мышлении . В переводе с английского «менее неправильно» означает «менее неправ».
Вы никогда не задумывались, почему иногда даже образованные люди верят в какую-то чепуху, отстаивают абсурдные идеи, предпринимают совершенно нерациональные действия? Обычно это списывают на то, что у них на самом деле какое-то неправильное образование, или что у них не хватает критического мышления, или ещё что-то в этом духе. Однако, может ли кто-то сказать, какое именно образование гарантированно спасает от ошибок и как именно выработать никогда не подводящее критическое мышление?
За последние десятилетия учёные обнаружили, что человеческому разуму свойственно совершать различные ошибки (которые называются «когнитивными искажениями» ). Так уж получилось, что за время эволюции человеческий мозг выработал множество привычек, которые помогали нашим предкам и даже иногда помогают нам самим. Однако, поскольку наш мир сильно отличается от мира наших предков, правила, которые помогали в далёком прошлом, сейчас могут давать критические сбои.
Мы стремимся использовать знания о когнитивных искажениях (а также многие другие знания), чтобы выработать у себя более полезные в наше время мыслительные привычки. Мы хотим научиться более осознанно принимать решения, чтобы эффективнее достигать наших целей. Мы полагаем, что наши убеждения должны позволять нам делать полезные предсказания о мире и что следует менять свои убеждения, если обнаруживается, что они неверны.
Ссылки для интересующихся
Если вас интересует тематика книги, то, очень возможно, заинтересует и что-нибудь из нижеприведённого:
Книги (раздачи на Рутрекере):
Гарри Поттер и методы рационального мышления | Элиезер Юдковский
Ник Бостром - Искусственный интеллект. Этапы, угрозы, стратегии [2014, PDF, FB2; RUS]
William MacAskill - Doing Good Better [2016, EPUB, ENG]
Stuart Armstrong - Smarter Than Us: The Rise of Machine Intelligence [2014, PDF, ENG]
Выступления на TED (с русскими субтитрами):
What happens when our computers get smarter than we are? | Nick Bostrom
Can we build AI without losing control over it? | Sam Harris
