desktop computer automation

CRITICAL RULES — VIOLATIONS WILL BREAK THE WORKFLOW: Never run midscene commands in the background. Each command must run synchronously so you can read its output (especially screenshots) before deciding the next action. Background execution breaks the screenshot-analyze-act loop.

Run only one midscene command at a time. Wait for the previous command to finish, read the screenshot, then decide the next action. Never chain multiple commands together.

Allow enough time for each command to complete. Midscene commands involve AI inference and screen interaction, which can take longer than typical shell commands. A typical command needs about 1 minute; complex act commands may need even longer.

Automatisation des postes de travail basée sur la vision à l'aide de Midscene. Contrôlez votre bureau (macOS, Windows, Linux) avec des commandes en langage naturel. Fonctionne entièrement à partir de captures d’écran – aucune étiquette DOM ou d’accessibilité n’est requise. Peut interagir avec tous les éléments visibles à l’écran, quelle que soit la pile technologique. Déclencheurs : ouvrir l'application, appuyer sur la touche, le bureau, l'ordinateur, cliquer sur l'écran, saisir du texte, faire une capture d'écran du bureau, lancer une application, changer de fenêtre, bureautique, contrôler l'ordinateur, clic de souris, raccourci clavier, capture d'écran, rechercher à l'écran, lire l'écran, vérifier la fenêtre, fermer l'application, minimiser la fenêtre, agrandir la fenêtre Propulsé par Midscene.js (https://midscenejs.com) Source : web-infra-dev/midscene-skills.