Повідомлення telegram каналу - @nuclear_volunteers

Чи вважає Сі Цзіньпін штучний інтелект загрозою для людства?
Під час торішнього липневого візиту до Пекіну Генрі Кіссінджер передав Сі Цзіньпіну попередження про катастрофічні ризики штучного інтелекту (ШІ). Відтоді американські технічні боси та колишні урядовці тихо проводили зі своїми китайськими колегами серії неформальних зустрічей, які отримали назву «Діалоги Кіссінджера». Розмови були частково зосереджені на тому, як захистити світ від небезпек ШІ. Очікується, що 27 серпня американські та китайські офіційні особи обговорять цю тему, коли радник США з національної безпеки Джейк Салліван прибуде до Пекіна.
Багато хто у світі технологій вважає, що штучний інтелект зрівняється або перевершить когнітивні здібності людини. Тих, хто вважає, що безконтрольний штучний інтелект становить загрозу існуванню людства, називають «думерами». З іншого боку, є «прихильники акселерації», які наголошують на потенціалі ШІ принести користь людству.
Західні прихильники акселерації часто стверджують, що конкуренція з китайськими розробниками, яких не стримують сильні гарантії, є настільки жорсткою, що Захід не може дозволити собі сповільнитися. В Китаї є власні AI- думери, і вони стають все більш впливовими. Зокрема, регуляторні органи Китаю зосереджувалися на ризику того, що шахрайські чат-боти говорять політично некоректні речі про Комуністичну партію, а не на тому, що передові моделі вислизають з-під контролю людини.
У березні міжнародна група експертів, яка зібралася в Пекіні, закликала дослідників знищити моделей, які, здається, прагнуть влади або демонструють ознаки самовідтворення чи обману. Через деякий час ризики, пов’язані зі штучним інтелектом, і те, як ними керувати, стали предметом вивчення партійних лідерів. Державний орган, який фінансує наукові дослідження, почав пропонувати гранти дослідникам, які вивчають, як узгодити ШІ з людськими цінностями.
У липні на засіданні центрального комітету партії під назвою «третій пленум» Сі Цзіньпін надіслав найчіткіший сигнал про те, що він серйозно сприймає занепокоєння думерів. В офіційному звіті пленуму ризики штучного інтелекту перераховані разом з іншими такими серйозними проблемами, як біологічні небезпеки та природні катаклізми. Вперше він закликав до моніторингу безпеки штучного інтелекту, посилаючись на потенційну небезпеку технології для людей.  Наразі китайські чиновники наголошують на необхідності розділити відповідальність за регулювання ШІ між відомствами та покращити координацію.
 https://www.economist.com/china/2024/08/25/is-xi-jinping-an-ai-doomer