desktop computer automation

CRITICAL RULES — VIOLATIONS WILL BREAK THE WORKFLOW: Never run midscene commands in the background. Each command must run synchronously so you can read its output (especially screenshots) before deciding the next action. Background execution breaks the screenshot-analyze-act loop.

Run only one midscene command at a time. Wait for the previous command to finish, read the screenshot, then decide the next action. Never chain multiple commands together.

Allow enough time for each command to complete. Midscene commands involve AI inference and screen interaction, which can take longer than typical shell commands. A typical command needs about 1 minute; complex act commands may need even longer.

Автоматизация рабочего стола на основе Vision с помощью Midscene. Управляйте своим рабочим столом (macOS, Windows, Linux) с помощью команд на естественном языке. Работает полностью на основе снимков экрана — не требуется DOM или метки доступности. Может взаимодействовать со всеми видимыми элементами на экране независимо от технологического стека. Триггеры: открыть приложение, нажать клавишу, рабочий стол, компьютер, щелчок по экрану, ввести текст, снимок экрана рабочего стола, запуск приложения, переключение окна, автоматизация рабочего стола, управляющий компьютер, щелчок мышью, сочетание клавиш, снимок экрана, найти на экране, прочитать экран, проверить окно, закрыть приложение, свернуть окно, развернуть окно При поддержке Midscene.js (https://midscenejs.com) Источник: web-infra-dev/midscene-skills.