desktop computer automation

CRITICAL RULES — VIOLATIONS WILL BREAK THE WORKFLOW: Never run midscene commands in the background. Each command must run synchronously so you can read its output (especially screenshots) before deciding the next action. Background execution breaks the screenshot-analyze-act loop.

Run only one midscene command at a time. Wait for the previous command to finish, read the screenshot, then decide the next action. Never chain multiple commands together.

Allow enough time for each command to complete. Midscene commands involve AI inference and screen interaction, which can take longer than typical shell commands. A typical command needs about 1 minute; complex act commands may need even longer.

Midscene を使用したビジョン主導のデスクトップ オートメーション。自然言語コマンドを使用してデスクトップ (macOS、Windows、Linux) を制御します。 完全にスクリーンショットから操作できます。DOM やアクセシビリティ ラベルは必要ありません。テクノロジースタックに関係なく、画面上に表示されるすべての要素を操作できます。 トリガー: アプリを開く、キーを押す、デスクトップ、コンピューター、画面をクリック、テキストを入力、デスクトップのスクリーンショット、 アプリケーションの起動、ウィンドウの切り替え、デスクトップ オートメーション、コンピューターの制御、マウス クリック、キーボード ショートカット、 画面キャプチャ、画面上で検索、画面を読み取る、ウィンドウを確認、アプリを閉じる、ウィンドウを最小化、ウィンドウを最大化 Midscene.js の提供 (https://midscenejs.com) ソース: web-infra-dev/midscene-skills。