Распознавание архива изображений в Yandex Vision OCR

1. В консоли управления выберите каталог, в котором будете выполнять операции.
2. Выберите сервис Object Storage.
3. Нажмите кнопку Создать бакет.
4. Введите имя бакета в соответствии с правилами именования.
5. В поле Доступ на чтение объектов выберите Ограниченный.
6. В поле Класс хранилища выберите Холодное.
7. Нажмите кнопку Создать бакет.

1. На странице каталога в консоли управления нажмите кнопку Создать ресурс и выберите Виртуальная машина.

2. В блоке Образ загрузочного диска в поле Поиск продукта введите CentOS 7 и выберите публичный образ CentOS 7.

3. В блоке Расположение выберите зону доступности, в которой будет создана ВМ. Если вы не знаете, какая зона доступности вам нужна, оставьте выбранную по умолчанию.

4. В блоке Диски и файловые хранилища выберите тип диска SSD и задайте размер 19 ГБ.

5. В блоке Вычислительные ресурсы перейдите на вкладку Своя конфигурация и укажите необходимую платформу, количество vCPU и объем RAM:

   • Платформа — Intel Cascade Lake.
   • vCPU — 2.
   • Гарантированная доля vCPU — 20%.
   • RAM — 2 ГБ.

6. В блоке Сетевые настройки:

   • В поле Подсеть выберите сеть и подсеть, к которым нужно подключить ВМ. Если нужной сети или подсети еще нет, создайте их.
   • В поле Публичный IP-адрес оставьте значение Автоматически, чтобы назначить ВМ случайный внешний IP-адрес из пула Yandex Cloud, или выберите статический адрес из списка, если вы зарезервировали его заранее.

7. В блоке Доступ выберите вариант SSH-ключ и укажите данные для доступа на ВМ:

   • В поле Логин введите имя пользователя. Не используйте имя root или другие имена, зарезервированные ОС. Для выполнения операций, требующих прав суперпользователя, используйте команду sudo.

   • В поле SSH-ключ выберите SSH-ключ, сохраненный в вашем профиле пользователя организации.

     Если в вашем профиле нет сохраненных SSH-ключей или вы хотите добавить новый ключ:

     • Нажмите кнопку Добавить ключ.
     • Задайте имя SSH-ключа.
     • Загрузите или вставьте содержимое открытого SSH-ключа. Пару SSH-ключей для подключения к ВМ по SSH необходимо создать самостоятельно.
     • Нажмите кнопку Добавить.

     SSH-ключ будет добавлен в ваш профиль пользователя организации.

     Если в организации отключена возможность добавления пользователями SSH-ключей в свои профили, добавленный открытый SSH-ключ будет сохранен только в профиле пользователя создаваемой виртуальной машины.

8. В блоке Общая информация задайте имя ВМ. Требования к имени:

   • длина — от 2 до 63 символов;
   • может содержать строчные буквы латинского алфавита, цифры и дефисы;
   • первый символ — буква, последний — не дефис.

9. Нажмите кнопку Создать ВМ.

10. Дождитесь перехода ВМ в статус Running и сохраните ее публичный IP-адрес, он понадобится для SSH-подключения.

1. Создайте сервисный аккаунт:

   yc iam service-account create \
     --name <имя_сервисного_аккаунта> \
     --description "<описание_сервисного_аккаунта>"
   

   Где:

   • --name — имя сервисного аккаунта, например vision-sa.
   • --description — описание сервисного аккаунта, например this is vision service account.

   Результат:

   id: aje6aoc8hccu********
   folder_id: b1gv87ssvu49********
   created_at: "2022-10-12T14:04:43.198559512Z"
   name: vision-sa
   description: this is vision service account
   

   Сохраните идентификатор сервисного аккаунта — параметр id, он понадобится для дальнейшей настройки.

2. Назначьте сервисному аккаунту роль editor:

   yc resource-manager folder add-access-binding <идентификатор_каталога> \
     --role editor \
     --subject serviceAccount:<идентификатор_сервисного_аккаунта>
   

   Где:

   • --role — назначаемая роль.
   • --subject serviceAccount — идентификатор сервисного аккаунта.

3. Создайте статический ключ доступа для сервисного аккаунта:

   yc iam access-key create \
     --service-account-id <идентификатор_сервисного_аккаунта> \
     --description "<описание_ключа>"
   

   Где:

   • --service-account-id — идентификатор сервисного аккаунта.
   • --description — описание ключа, например this key is for vision.

   Результат:

   access_key:
     id: ajen8d7fur27********
     service_account_id: aje6aoc8hccu********
     created_at: "2022-10-12T15:08:08.045280520Z"
     description: this key is for vision
     key_id: YC...li
   secret: YC...J5
   

   Сохраните следующие параметры, они понадобятся для конфигурации утилиты AWS CLI:

   • key_id — идентификатор статического ключа доступа.
   • secret — секретный ключ.

4. Создайте авторизованный ключ для сервисного аккаунта:

   yc iam key create \
     --service-account-id <идентификатор_сервисного_аккаунта> \
     --output key.json
   

   Где:

   • --service-account-id — идентификатор сервисного аккаунта.
   • --output — имя файла с авторизованным ключом в формате JSON.

   Результат:

   id: aje3qc9pagb9********
   service_account_id: aje6aoc8hccu********
   created_at: "2022-10-13T12:53:04.810240976Z"
   key_algorithm: RSA_2048
   

5. Создайте профиль Yandex Cloud CLI для работы от имени сервисного аккаунта, например vision-profile:

   yc config profile create vision-profile
   

   Результат:

   Profile 'vision-profile' created and activated
   

6. Укажите в конфигурации профиля авторизованный ключ сервисного аккаунта:

   yc config set service-account-key key.json
   

7. Получите IAM-токен для сервисного аккаунта:

   yc iam create-token
   

   Сохраните IAM-токен, он понадобится для отправки изображений в Vision OCR.

В скрипте выполняются следующие этапы:

1. Создаются необходимые директории.
2. Распаковывается архив с изображениями.
3. Последовательно обрабатываются все изображения:
   1. Изображение кодируется по стандарту Base64.
   2. Формируется тело запроса для конкретного изображения.
   3. Изображение отправляется в POST-запросе в Vision OCR для распознавания.
   4. Полученный результат записывается в файл output.json в формате JSON.
   5. Из файла output.json выделяется распознанный текст и записывается в текстовый файл.
4. Полученные текстовые файлы запаковываются в архив.
5. Архив с текстовыми файлами загружается в Object Storage.
6. Удаляются служебные файлы.

Для удобства в текст скрипта добавлены комментарии к каждому этапу.

Чтобы реализовать скрипт:

1. Создайте файл, например vision.sh, и откройте его в текстовом редакторе nano:

   sudo nano vision.sh
   

2. Скопируйте в файл vision.sh текст скрипта на Bash:

   #!/bin/bash
   
   # Создать необходимые директории.
   echo "Creating directories..."
   
   # Создать директорию для распознанного текста.
   mkdir my_pictures_text
   
   # Распаковать архив с изображениями в созданную директорию.
   echo "Extract pictures in my_pictures directory..."
   tar -xf my_pictures.tar
   
   # Распознать изображения из архива.
   FILES=my_pictures/*
   for f in $FILES
   # В цикле для каждого файла из директории произвести следующие действия:
   do
      # Закодировать изображение по стандарту Base64 для отправки в Vision OCR.
      CODEIMG=$(base64 -i $f | cat)
   
      # Создать файл body.json, который будет отправляться в POST-запросе в Vision OCR.
      cat <<EOF > body.json
   {
   "mimeType": "JPEG",
   "languageCodes": ["*"],
   "model": "page",
   "content": "$CODEIMG"
   }
   EOF
   # Отправить изображение в Vision для распознавания и записать результат в файл output.json.
   echo "Processing file $f in Vision..."
   curl --request POST \
     --header "Content-Type: application/json" \
     --header "Authorization: Bearer ${IAMTOKEN}" \
     --header "x-data-logging-enabled: true" \
     --header "x-folder-id: ${FOLDERID}" \
     --data '@body.json' \
     https://ocr.api.cloud.yandex.net/ocr/v1/recognizeText \
     --output output.json
   
   # Получить имя файла с изображением для дальнейшей подстановки.
   IMAGE_BASE_NAME=$(basename -- "$f")
   IMAGE_NAME="${IMAGE_BASE_NAME%.*}"
   
   # Получить из файла output.json текстовые данные и записать их в TXT-файл с таким же именем, как у файла с изображением.
   cat output.json | jq -r '.result[].blocks[].lines[].text' | awk -v ORS=" " '{print}' > my_pictures_text/$IMAGE_NAME".txt"
   done
   
   # Запаковать содержимое директории с текстовыми файлами в архив.
   echo "Packing text files to archive..."
   tar -cf my_pictures_text.tar my_pictures_text
   
   # Отправить архив с текстовыми файлами в бакет.
   echo "Sending archive to Object Storage Bucket..."
   aws --endpoint-url=https://storage.yandexcloud.net s3 cp my_pictures_text.tar s3://$BUCKETNAME/ > /dev/null
   
   # Удалить служебные файлы.
   echo "Cleaning up..."
   rm -f body.json
   rm -f output.json
   rm -rfd my_pictures
   rm -rfd my_pictures_text
   rm -r my_pictures_text.tar
   

3. Установите разрешения на запуск скрипта:

   sudo chmod 755 vision.sh
   

4. Запустите скрипт:

   ./vision.sh
   

1. В консоли управления Yandex Cloud выберите каталог, в котором находится бакет с результатами распознавания.
2. Выберите сервис Object Storage.
3. Откройте бакет с результатами распознавания.
4. Убедитесь, что в бакете появился архив my_pictures_text.tar.
5. Скачайте и распакуйте архив.
6. Убедитесь что текст в файлах <имя_изображения>.txt совпадает с текстом на соответствующих изображениях.