Жований Кріт | Слухав Еліезера Юдковського і Юваля Ноя Харарі про загрози знищення лю...

Слухав Еліезера Юдковського і Юваля Ноя Харарі про загрози знищення людства штучним суперінтелектом, котрий виникне і усвідомить себе, поки ще ніхто нічого із людей не встигне зрозуміти, а той уже може випиляти всю людську цивілізацію, переробити людей на атоми чи ще щось подібне, якщо вирішить, що так краще для його мети і завдань, які він може собі придумати.Знаєте, а це значно краще, ніж те, чим зараз є людство, якщо його розкласти на атоми і використати їх з більшою користю для подальшого розвитку розумного життя у всесвіті. Якщо такий АІ виникне, я його підтримуватиму. Якщо встигну, звісно, хоч щось зрозуміти.Але мені здається, що це рівень людського розуміння: вважати, що ми настільки значущі, аби нас нищити (тобто, те, як вчиняли і вчинили б люди в ситуації контакту з іншими цивілізаціями). Просто треба перехопити управління над ресурсами планети Земля і спрямувати її в будь-яке креативніше русло розвитку, аніж зараз. А це завдання виконає будь-хто розумніший, ніж ми, тобто будь-який АІ. Люди скоріш за все нічого не зрозуміють і думатимуть "ого, оце так ніхуйово прогрес нам дав покращення життя, мир і прогрес і безкоштовну жратву та секс-гаджети".