Интерфейс как точка входа
Распознавание по изображению экрана помогает работать с приложениями без доступа к их внутреннему устройству.

Интерфейс становится точкой взаимодействия. OMNI определяет, что находится на экране и где расположены элементы для следующего действия.
Выберите шаг и посмотрите,
как устроен процесс.
Скриншот передаёт агенту текущее состояние приложения: окна, поля, кнопки и другие элементы.
Распознавание по изображению экрана помогает работать с приложениями без доступа к их внутреннему устройству.
OMNI определяет назначение кнопок и полей, чтобы связать элемент интерфейса с нужным действием.
Подход применяется к интерфейсам десктопных и мобильных приложений. Конкретный сценарий проверяется при подключении.
Используйте распознавание экрана там, где вашему сценарию нужно взаимодействовать с программой через интерфейс.
Поиск по документам с GraphRAG