💥 "Мавпа з гранатою" Справді правильний образ для цієї статті. Жаклін Шнайдер з Гуверівського інституту показує, що головна небезпека військового ШІ не в самій технології, а в людях. Технологія вже всюди: обирає цілі в Газі, Maven від Palantir керує дронами в Пентагоні. І Anthropic обмежує доступ не просто так…Шнайдер пише, що ефект Даннінга-Крюгера на ШІ працює сильніше, ніж деінде. Тобто, недосвідчений користувач переоцінює свою здатність оцінити те, чого не розуміє. А моделі спеціально тренують демонструвати впевненість навіть там, де впевненості немає. От і виходить подвійна сліпота. Молодий оператор у пусковій шахті отримує впевнену відповідь від системи, яка сама не бачить меж своєї помилки.Авторитарні режими лише загострюють це. Лідер, який не довіряє генералам, охоче замінить їх лояльним агентом без емпатії, відрази і страху. Тобто прибере ті самі емоції, які історично стримували насильство.Напрошується паралель з 1914 роком. Тоді теж винили телеграф і залізниці. Але ж зброю будували люди...Якщо Шнайдер права, після першого серйозного інциденту Пентагон шукатиме, кого винити. Тоді почнеться процес зміни філософії, або/та розвинеться сегмент аудиту, калібрування невизначеності і контроль червоних прапорів. Сайт | LifeHUGS |AgentHUGS| YouTUBE Еріка Наймана