watcher :
Дело не в том, что модель ошиблась. Дело в том, что один и тот же агент здесь решает всё: и что делать, и где границы, и какую команду написать, и тут же её запускает. Фактически система сама себе решает, что ей можно, а что нельзя.
Песочницы и бекапы — это, конечно, хорошо, они смягчают удар. Но причину они не убирают. И супердорогая, суперумная модель тут тоже не панацея. Потому что умные рассуждения — это ещё не право на необратимые действия.
Здесь нужен принципиально другой подход: между агентом и реальной системой должен стоять независимый барьер. Такой, который не верит агенту на слово, а тупо проверяет факты: что именно меняется, насколько глубоко, можно ли это откатить и вообще — разрешено ли это действие по заранее выданным правилам.
Так что главный вопрос, на самом деле, не «сколько стоит лучшая модель». Главный вопрос — почему мы вообще разрешаем вероятностной системе самостоятельно решать, где заканчивается её власть над системой? Вот где собака зарыта.
2026-07-20 06:31:57