ШI-КОМПАНІЇ РАПТОМ ПОЧАЛИ ГОВОРИТИ ЩО У НАС ПРОБЛЕМИ

Якщо не читали цих новин, то це цікава історія.

Глава Anthropic Даріо Амодей нещодавно опублікував велике есе We Must Pace the Frontier. Суть проста: ШІ не треба зупиняти, як явище,, але темп розвитку найсильніших моделей уже може бути швидшим, ніж наша здатність нормально перевіряти їхню безпеку.

Один із головних пунктів - незалежні перевірки прямо всередині ШI-компаній. Anthropic уже пообіцяли дати зовнішнім дослідникам постійний доступ до своїх систем і дозволити публікувати результати без попереднього схвалення компанії.

Сем Альтман підтримав ідею та сказав, що OpenAI теж готові допустити незалежних перевіряльників. Ілон Маск відповів ще коротше: «Dario is right».

Далі Амодей пропонує спільні правила між демократичними країнами: перевіряти найпотужніші моделі до релізу, краще захищати їхні ваги, контролювати постачання найсильніших чипів і боротися з копіюванням моделей.

А в ідеалі - домовлятися вже на рівні США, Китаю та інших держав про те, які застосування ШІ взагалі не можна допускати.

Але тут вийшов Трамп та сказав, що нічого зупиняти не можна, бо якщо США зупиниться, то Китай - ні.

По чуткам, як раз це і буде питанням обговорення сьогодні під час візиту Сі до США.

@Zatishna_Galera