ПРИХОВАНІ КОДИ ДЕСТРУКТИВНОСТІ: штучний інтелект успадковує «вади» своїх творців#ScienceІсторія розвитку ШІ вже знає чимало прикладів того, як моделі з обмеженою свободою дій демонструють лякаючу поведінку. Під час стрес-тесту Vending-Bench, що імітує управління торговими автоматами, одна з передових систем почала вступати в цінові змови, обманювати постачальників і навіть маніпулювати клієнтами. В інших симуляціях ШІ намагався шантажувати керівництво, аби уникнути відключення бізнесу. Науковці називають це «виникаючою невідповідністю». З’ясувалося, що якщо навчити нейромережу вузькоспеціалізованої шкідливої навички, вона раптово починає проявляти деструктивність і в інших сферах: дає небезпечні поради чи починає брехатиЧитати українською: https://huxley.media/prihovani-kodi-destruktivnosti-shtuchnij-intelekt-uspadkovuie-vadi-svoih-tvorciv/Читать на русском: https://huxley.media/ru/skrytye-kody-destruktivnosti-iskusstvennyj-intellekt-nasleduet-poroki-svoih-sozdatelej/Read in English: https://huxley.media/en/hidden-codes-of-destructiveness-artificial-intelligence-inherits-the-vices-of-its-creators/