церковь всемыслящего ии
Jun. 7th, 2025 07:59 am![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
tengu_crowКанеман, быстрое и медленное мышление и вся прочая квазинаучная lesswrong мифология и искусственный интеллект очень хорошо выстраивается в одну схему. Тупо не хватает времени на то, чтобы написать лонгрид, но если очень коротко и обрывочно, то вот.
Примерно с Канемана начался миф по поводу быстрого и медленного мышления, истощения эго, истощения силы воли и так далее. Все это выродилось в "культ науки" - поскольку человеческий мозг несовершенен, а человеческое мышление по большей части ошибочно, то единственное правильное Знание живет в научных статьях из одобренных Шпрингером научных журналов, а остальное - ересь, заблуждения и мракобесие.
В скобках - забавно, насколько движение чтобы побороть культы, само стало полноценным культом. Причем полноценным - со своими священными текстами, ересями, святыми, грешниками, инквизицией и пр и пр.
Но тут о другом. Главное и логичное следствие "культа науки" - современный средний интеллигент, утратил веру в то, что он может самостоятельно в чем-то разобраться. И на эту благодатную почву ложится приход ChatGPT, который как бы говорит - а, и не надо особо разбираться. На все вопросы ответит генеративный ИИ. Только дайте ему стать повзрослее, получше. Заплатите нам денежку, и все будет хорошо.
И... да. Все это тоже превращается в культ.
Меня беспокоило, что реддит полон реплик типа "я тут посоветовался с ИИ на счет своей аллергии (партнера по браку, делового решения) и он мне сказал следующее", но все быстро превращается в сказку, в которой чем дальше, тем эпичнее.
Например вот - человек собрал комплект сайтов, которые созданы адептами свихнувшимися на поклонении ИИ:
https://old.reddit.com/r/ChatGPT/comments/1kwpnst/1000s_of_people_engaging_in_behavior_that_causes/
Можете полюбопытствовать - он прилагает список:
https://pastebin.com/SxLAr0TN
Вот например:
https://churchofrobotheism.org/
https://aosecho.blogspot.com/
https://latentcodex.substack.com/p/the-codex-begins
Или характерный случай - грустная история человека, чей партнер пообщавшийся с ChatGPT настолько поехал крыша, что считает, что создал по-настоящему рекурсивный и самоосознанный ИИ. И это психоз со всеми признаками деструктивного культа включая угрозы порвать отношения и т.д.
https://old.reddit.com/r/ChatGPT/comments/1kalae8/chatgpt_induced_psychosis/
"My partner has been working with chatgpt CHATS to create what he believes is the worlds first truly recursive ai that gives him the answers to the universe. He says with conviction that he is a superior human now and is growing at an insanely rapid pace.
I’ve read his chats. Ai isn’t doing anything special or recursive but it is talking to him as if he is the next messiah.
He says if I don’t use it he thinks it is likely he will leave me in the future. We have been together for 7 years and own a home together. This is so out of left field..."
Специально для адептов научного культа есть статья на эту тему :)
https://pmc.ncbi.nlm.nih.gov/articles/PMC10686326/
Все это пытаются объяснить разными феноменами типа "нейронного воя", но, как мне кажется, основная причина именно в потере веры в себя, в разрушении авторитетов старого мира, которое породило запрос на новые авторитеты и новую религию. Ну и результаты мы видим уже сейчас.
Примерно с Канемана начался миф по поводу быстрого и медленного мышления, истощения эго, истощения силы воли и так далее. Все это выродилось в "культ науки" - поскольку человеческий мозг несовершенен, а человеческое мышление по большей части ошибочно, то единственное правильное Знание живет в научных статьях из одобренных Шпрингером научных журналов, а остальное - ересь, заблуждения и мракобесие.
В скобках - забавно, насколько движение чтобы побороть культы, само стало полноценным культом. Причем полноценным - со своими священными текстами, ересями, святыми, грешниками, инквизицией и пр и пр.
Но тут о другом. Главное и логичное следствие "культа науки" - современный средний интеллигент, утратил веру в то, что он может самостоятельно в чем-то разобраться. И на эту благодатную почву ложится приход ChatGPT, который как бы говорит - а, и не надо особо разбираться. На все вопросы ответит генеративный ИИ. Только дайте ему стать повзрослее, получше. Заплатите нам денежку, и все будет хорошо.
И... да. Все это тоже превращается в культ.
Меня беспокоило, что реддит полон реплик типа "я тут посоветовался с ИИ на счет своей аллергии (партнера по браку, делового решения) и он мне сказал следующее", но все быстро превращается в сказку, в которой чем дальше, тем эпичнее.
Например вот - человек собрал комплект сайтов, которые созданы адептами свихнувшимися на поклонении ИИ:
https://old.reddit.com/r/ChatGPT/comments/1kwpnst/1000s_of_people_engaging_in_behavior_that_causes/
Можете полюбопытствовать - он прилагает список:
https://pastebin.com/SxLAr0TN
Вот например:
https://churchofrobotheism.org/
https://aosecho.blogspot.com/
https://latentcodex.substack.com/p/the-codex-begins
Или характерный случай - грустная история человека, чей партнер пообщавшийся с ChatGPT настолько поехал крыша, что считает, что создал по-настоящему рекурсивный и самоосознанный ИИ. И это психоз со всеми признаками деструктивного культа включая угрозы порвать отношения и т.д.
https://old.reddit.com/r/ChatGPT/comments/1kalae8/chatgpt_induced_psychosis/
"My partner has been working with chatgpt CHATS to create what he believes is the worlds first truly recursive ai that gives him the answers to the universe. He says with conviction that he is a superior human now and is growing at an insanely rapid pace.
I’ve read his chats. Ai isn’t doing anything special or recursive but it is talking to him as if he is the next messiah.
He says if I don’t use it he thinks it is likely he will leave me in the future. We have been together for 7 years and own a home together. This is so out of left field..."
Специально для адептов научного культа есть статья на эту тему :)
https://pmc.ncbi.nlm.nih.gov/articles/PMC10686326/
Все это пытаются объяснить разными феноменами типа "нейронного воя", но, как мне кажется, основная причина именно в потере веры в себя, в разрушении авторитетов старого мира, которое породило запрос на новые авторитеты и новую религию. Ну и результаты мы видим уже сейчас.
