🤖 Світу потрібна "педаль гальма" для ШІ

Компанія Anthropic офіційно закликала лідерів індустрії створити спільний, координований та верифікований механізм для уповільнення або тимчасової паузи у розробці передових моделей ШІ. Головна думка Anthropic проста: діяти поодинці безглуздо. Якщо зупиниться лише одна компанія, це не покращить загальну безпеку, а просто передасть лідерство конкурентам. Потрібні жорсткі, узгоджені правила гри для всіх ключових лабораторій.🔹Claude вже сам пише Claude

Найбільш вражаючий факт у матеріалі: станом на травень понад 80% коду, внесеного в основну базу Anthropic, було написано їхнім власним ШІ-асистентом Claude. Це вже не теорія — це реальність, де технологія розробляє саму себе.🔹Страх "рекурсивного самовдосконалення"

Anthropic боїться моменту, коли ШІ отримає повну здатність самостійно створювати свої значно потужніші версії-наступники. На думку компанії, такий стрибок несе критичний ризик абсолютної втрати людського контролю над технологією.🔹Створення "Anthropic Institute"

Дослідницьке крило компанії — Anthropic Institute — вже починає розробку технічних систем для забезпечення координованого гальмування розробок. Вони планують зібрати разом політиків, науковців та конкурентів, щоб вирішити, хто саме натискатиме на гальма і коли це має відбуватися. Storyboard18Фото НЕ згенероване. Ситуація на каналі повністю контрольована. Чесно. 🚀 БАЗА_Хʼюстон