"Жорстоке поводження" з ШІ: Anthropic запровадила перші обмеження

📄 Anthropic оновила правила використання ШІ та заборонила тривалу й безпідставну образливу або жорстоку поведінку щодо своїх моделей. Нові правила набудуть чинності 12 листопада.

Нове обмеження стосуватиметься лише крайніх випадків, коли користувач систематично поводиться з моделлю жорстоко або образливо без зрозумілої мети. Заборона не поширюватиметься на звичайне роздратування користувача через відповіді ШІ, критику та заперечення, тестування моделей і дослідницьку роботу.

Основним механізмом реагування залишатиметься можливість ШІ самостійно завершувати окремі розмови з користувачами, які систематично допускають образливу поведінку. У компанії зазначили, що така функція вже застосовується в рідкісних випадках.

Також Anthropic уточнила правила щодо інших способів використання своїх моделей. Зокрема, оновлення стосуються:

✔️ заборони створення та підтримки оманливих кампаній, фейкових акаунтів і мереж для штучного поширення контенту;
✔️ використання Claude для маніпуляцій виборцями або перешкоджання виборчим процесам;
✔️ застосування моделей під час розробки зброї, зокрема ПЗ та компонентів для озброєння;
✔️ використання ШІ для стеження та відстеження людей без їхньої згоди;
✔️ високоризикових сфер, зокрема охорони здоров’я, фінансів і правових рішень, де має бути передбачений контроль із боку кваліфікованої людини.

@yurgazeta