FUTURE × SIMPLE ⛩ | Це наш останній спокійний рік»: AGI, чому розвалився «золотий склад» O...

😱 «Це наш останній спокійний рік»: AGI, чому розвалився «золотий склад» OpenAI та що робити, коли почнеться штучно-інтелектуальна п🤬рєзкаБенджамін Манн — співзасновникк Anthropic і один з архітекторів GPT-3 — дав свіженьке інтерв'ю, а я витягнув звідти для вас ключові інсайти про розвиток ШІ.👉 Отже почнемо не з передбачень на майбутнє (Левам та Дівам приготуватись), а з не такого далекого минулого — чому найкращі інженери втекли з OpenAI? Ви забили? Ви забули? Так я вам зараз напамʼятаю. Бо це насправді дуже непогана корпоративна драма з вкрапленням зради та ревнощів.🗣 Всередині OpenAI існували три ворогуючі «племені», як їх і називав сам Альтман: безпека, дослідження та стартапери. І його робота була в тому, щоб їх якось балансувати.• Проблема в тому, що менеджмент спочатку хотів розігнати болід, а вже потім десь якось, по ходу справи, прикручувати гальма — іншими словами, коли дійшло до справи, пріоритет був очевидно і далеко не на боці «безпеки». В результаті майже вся команда, що займалась safety-дослідженнями, просто лівнула і заснувала Anthropic.😘 Так-так, це не те, щоб секрет, але ще раз про це поговорити зайвим не буде)))Тепер — головне питання: коли чекати на AGI і наскільки нам срака?Манн відкидає популярний наратив про «плато» в розвитку ШІ — на його думку, ми просто погано сприймаємо експоненту.😁 Прогноз від суперфорекастерів, яким він довіряє: 50% ймовірність появи transformative AI (читай: AGI) — це 2028 рік.• Це не просто «так буде бо так буде», а розрахунок, що базується на трьох елементах: інвестиціях в хардвер, нових алгоритмах та законах масштабування, які досі працюють. А тепер про ризики.Екзистенційний ризик (x-risk) для людства оцінюється в 0-10%. 🧠 Ніби не так багато, але це саме той випадок, коли навіть 1% — вже ЗАНАДТО дох*я. Бо ми граємо в гру, де програш означає кінець гри для всіх. Назавжди.Саме тому Манн і Ко так носяться з цією безпекою — коли з'явиться суперінтелект, «виховувати» його буде вже пізно.І тепер — що з цим усім робити нам? • В довгостроковій перспективі, за років двадцять, сам капіталізм може кардинально змінитися, — каже Манн (не дослівна цитата). У світі майже безкоштовної праці концепція «роботи» втратить сенс, і вся економічна модель суспільства, мʼяко кажучи, зазнає змін)))) На перехідний період порада проста: забудьте про вузькі навички, які легко автоматизувати. Взагалі переставайте думати категоріями конкретних професій. Єдині скіли, які матимуть значення — це емпатія, здатність адаптуватися, бути допитливим та креативним.🤑 Або ти вчишся ставити правильні питання (допитливість), генерувати неочевидні ідеї (креативність) і розуміти інших людей (емпатія), або ти стаєш гвинтиком, який скоро замінять.• І ще одна порада від 35-річного діда — щоб вас замінили якомога пізніше, використовуйте АІ, щоб робити в 10 разів більше, а не щоб робити вашу стару роботу трішки легше. Загальний підсумок буде в вигляді цитати (даю в оригіналі, бо так потужніше): «It's going to be much weirder very soon».І з цим, бл🤬ть, важко посперечатись.🫦 FUTURE : SIMPLE