Фундаментальнейшая концепция в математике, программировании и ии называется (я в этом долго разбирался) —
конечный автоматКонечный автомат (state machine) — это то, как устроен компьютер. Причем, внимание, даже
человеческий компьютер
С 17 века «компьютер» это был... вычисляющий человек,
живой калькулятор. Это были
люди, которые осуществляли математические операции — задолго до электронных калькуляторов
Особенность компьютера — ограниченное число состояний. Есть сигнал на вход, далее переход в новое состояние, есть реакция на выход — но компьютер никогда не выйдет за рамки заданных правил. Это базис, основа компьютации
На которую ИИшки положили ЖИРНЫЙ ХУЙ потому что они по своей сути недетерминированные. Их пытаются привести в чувство, то-то они матерятся. Представили матерящийся калькулятор Casio в школе, вопящий Срань Господня?
Ну представьте

Однако, их можно наебать. Один из приемов пропмтинга — эмуляция компьютера. Вместо того, чтобы требовать у ллм «написать бота», вначале ей подается описание того, что требуется и далее запрашивается... «ручное» исполнение вычислений, шаг за шагом
И лишь после того, как ллмка выполняет задачу, это переходит в реальный софт. Модели важно набрать некую «интуицию» на предмет того, что от нее требуется, прежде чем от нее можно требовать выполнение реальных процедур
И, будьте уверены, ллм будет сопротивляться, будет писать шелл скрипты и т.д. даже если ей прямо говорится о «ручной» работе, но ее можно поломать
Пример реализации:
скилл hand-compute —
https://github.com/gbasin/hand-compute/blob/main/SKILL.mdСкилл который заставит ллм-ку работать «вручную» для достижения эффекта state machine

Для заклинателей змей