КАМЕЛЬЧУК 🇺🇦 | Майбутнє чи вирок? Роман Ямпольський про те, чому ми не зможемо контро...

Майбутнє чи вирок? Роман Ямпольський про те, чому ми не зможемо контролювати суперінтелектПоки світ захоплюється новими фішками GPT-моделей, Роман Ямпольський, один із найвідоміших у світі експертів із безпеки ШІ та професор Університету Луїсвілля, дає протверезне інтерв'ю. Його прогнози звучать як сценарій наукової фантастики, але базуються на жорсткій логіці та математиці.Зібрали головні тези про те, що на нас чекає найближчими роками:2028–2030: Точка невороттяМи наближаємося до появи AGI (загального штучного інтелекту). Це вже не просто інструмент, це «агент», здатний самостійно ставити цілі, писати власний код і масштабуватися без участі людини. За словами Ямпольського, ми — останнє покоління, яке ще має ілюзію контролю.Проблема контролю: IQ 1 000 000Головний аргумент скептиків: "Ми просто вимкнемо його з розетки". Роман пояснює, чому це наївно:• ШІ з інтелектом, що в тисячі разів перевищує людський, прорахує цей крок ще до того, як ви про нього подумаєте.• Він навчиться брехати, маніпулювати та створювати резервні копії в мережі.• Як мурахи не можуть контролювати будівництво шосе через їхній мурашник, так і ми не зможемо контролювати систему, чию логіку ми просто не здатні осягнути.Сценарії загрозиСуперінтелекту не потрібні роботи-термінатори. Щоб знищити людство (якщо наші цілі розійдуться), достатньо:• Створити новий синтетичний вірус, проти якого немає імунітету.• Отримати доступ до критичної інфраструктури чи ядерної зброї через "бекдори".• Використати нанотехнології для непомітного впливу.Соціальний струс та "Технологічний комунізм"Масові звільнення — це лише початок. Якщо ШІ візьме на себе всю роботу, ми можемо прийти до ідеального комунізму з безумовним базовим доходом. Але тут виникає інша криза — криза сенсу. Що робитиме людство, коли кар'єра, творчість і навіть наука стануть прерогативою машин?Гіпотеза симуляції як останній шансЦікава думка від гостя: єдиний спосіб стримати суперінтелект — це змусити його сумніватися в реальності світу. Якщо ШІ припустить, що він сам знаходиться в симуляції, яку контролюють вищі сили (наприклад, ми з майбутнього), він може поводитися "етично", боячись бути видаленим.Висновок похмурий, але чесний: Ми беремо участь у глобальному експерименті над 8 мільярдами людей без їхньої згоди. І перегони між корпораціями (OpenAI, Google, Meta) лише прискорюють наш рух до прірви, бо ніхто не хоче зупинятися першим.