ДОСЛІДНИК ANTHROPIC ЗВІЛЬНИВСЯ ЧЕРЕЗ ГОНКУ ЗА СУПЕРІНТЕЛЕКТОМДжейкоб Коксон, який останні три роки займався навчанням моделей в OpenAI та Anthropic, оголосив про звільнення. Каже, обидві компанії безвідповідально мчать до створення суперінтелекту, здатного вдосконалювати себе, і «грають нашими життями». За словами Коксона, частина керівників і дослідників справді побоюються катастрофи вже до кінця десятиліття. В Anthropic, на його думку, ризики розуміють, але продовжують гонку через переконання, що конкуренти діятимуть ще менш відповідально. Він закликає лабораторії домовлятися про обмеження темпів розвитку, аж до тимчасової зупинки нарощування можливостей моделей. А далі ще цікавіше. Дослідник узгодження ШІ з людськими цілями в Anthropic Еван Габінгер підтримав побоювання колеги: особисто він оцінює ймовірність знищення людства через ШІ протягом наступних десяти років у понад 10%. Водночас ризик від нинішніх моделей називає низьким - його непокоїть майбутній суперінтелект із рекурсивним самовдосконаленням. @Zatishna_Galera