⚡️Anthropic пропонує паузу у розвитку надпотужного ШІАмериканський стартап Anthropic закликав провідні ШІ-лабораторії та уряди домовитися про тимчасове уповільнення розробки нових моделей. У компанії побоюються, що технології розвиваються занадто швидко і незабаром ШІ може почати рекурсивне самоудосконалення без участі людини.Ініціативу очолили керівниця внутрішнього дослідного інституту Марина Фаваро та співзасновник Anthropic Джек Кларк. Вони пропонують створити систему взаємних перевірок для контролю за паузою.«Ми вважаємо, що для світу було б добре мати можливість уповільнити або тимчасово призупинити передовий розвиток ШІ, щоб соціальні структури та дослідження з безпеки могли йти в ногу з прогресом технології», — зазначають представники Anthropic. Водночас у компанії визнають складність контролю за дотриманням такої паузи, порівнюючи її з договорами про ядерне роззброєння, але відзначають, що запобігти обману у сфері IT набагато складніше.Критики вважають, що ініціатива може бути маркетинговим ходом для привернення уваги та обмеження доступу до потужної моделі кібербезпеки Mythos.Експерт Школи Уортона Ітан Моллік застерігає:«Всередині таких корпорацій точиться боротьба між групами впливу. Є юристи, маркетологи, розробники та філософи, які щиро переймаються майбутнім людства і діють як запобіжники». Раніше технологічні лідери закликали Конгрес США ухвалити правила, що усунуть прогалину у біобезпеці, яка, на їхню думку, може спровокувати глобальну кризу.#ai #company #business Growth Digest: IT news & analytics