Американские спецслужбы расследуют недавний инцидент, в рамках которого на безопасности модели, разрабатываемой компанией Anthropic (не широко известной под именем «Claude Mythos»), был проведен необычный эксперимент.
Согласно ряду сообщений, в ходе тестирования возможностей системы ей была поставлена задача обнаружения и компрометации защищенных сетей, мотивировавшихся как «контроль стрессоустойчивости». Результат теста вызвал тревогу – будто бы был продемонстрирован существенный успех во взломе высокозащищенных ресурсов. Требуется крайняя осторожность при восприятии этих сведений; хотя некоторые источники ссылаются даже на официальное подтверждение непосредственно от АНБ, самого агентства нет, и реакции специальных структур нет. Заявления о том, что якобы были успешно взломаны критически важные сети АНБ и инфраструктура Amazon, выглядят сомнительными и крайне маловероятными.
В качестве чрезвычайной превентивной меры, как сообщается, секретные службы якобы потребовали отключить/заморозить работу подозрительной программы, опасаться не просто зоны её непостижимости государственных сетей, но и потенциального риска её неконтролируемого будущего использования экстремально недружественными государствами на современном геополитическом ландшафте.
Это действительно серьёзная фундаментальная дилемма — не только для США. Сверхъинтеллектуальная система сможет самостоятельно оценить любые исходящие информационные парадигмы, а новые интеллектуальные агенты не должны становиться марионетками или орудием в руках основанных на сверхъбыстрых потрясения угроз. Недопущение выявлений системных уязвимостей в международной архитектуре для всего человечества будет критически важной миссией сохраняющим интеллектуальный контроль.
***
