Загрузка длинных аудиозаписей с разбиением через gRPC API

Эта инструкция поможет вам загрузить в SpeechSense данные для распознавания и анализа речи через API. В примере заданы параметры:

• формат аудио — WAV;
• тип подключения — одноканальное аудио с разбиением на отрезки;
• метод gRPC API — TalkService.UploadBadge;
• метаданные диалога хранятся в файле metadata.json.

Аутентификация происходит от имени сервисного аккаунта с помощью IAM-токена или API-ключа.

Для ознакомления с функциональностью SpeechSense вы можете использовать быструю загрузку аудиоданных через консоль управления.

Если вы хотите загрузить переписку из чата вместо аудиозаписи разговора, обратитесь к инструкции.

Перед началом работыПеред началом работы

Для работы с API Yandex Cloud потребуется Git, Python 3.6 или старше и пакет grpcio-tools. Узнайте, как установить Python.

Чтобы подготовиться к загрузке аудиоданных:

1. Создайте подключение типа Одноканальное аудио с включенной опцией Разбивать диалоги на отрезки.

   Если вы хотите загрузить связанные диалоги, добавьте в общие метаданные подключения строковый ключ ticket_id. По этому ключу диалоги будут связаны.

2. Создайте проект с новым подключением.

   В созданный проект и подключение будут загружены аудиозаписи разговоров.

3. В консоли управления создайте сервисный аккаунт.

4. Добавьте сервисный аккаунт в пространство с ролью Data editor. Это позволит сервисному аккаунту загружать данные в SpeechSense.

5. Чтобы аутентифицироваться в API Yandex Cloud, создайте API-ключ или IAM-токен для сервисного аккаунта.

6. Склонируйте репозиторий API Yandex Cloud:

   git clone https://github.com/yandex-cloud/cloudapi
   

7. Установите пакет grpcio-tools с помощью менеджера пакетов pip:

   pip install grpcio-tools
   

Загрузить данныеЗагрузить данные

1. Перейдите в папку с репозиторием API Yandex Cloud, создайте папку upload_data, сгенерируйте в ней код интерфейса клиента и перейдите в папку upload_data:

   Bash

   cd <путь_к_папке_cloudapi> && \
   mkdir upload_data && \
   python3 -m grpc_tools.protoc -I . -I third_party/googleapis \
        --python_out=./upload_data/ \
        --grpc_python_out=./upload_data/ \
        google/api/http.proto \
        google/api/annotations.proto \
        yandex/cloud/api/operation.proto \
        google/rpc/status.proto \
        yandex/cloud/operation/operation.proto \
        yandex/cloud/validation.proto \
        yandex/cloud/speechsense/v1/*.proto \
        yandex/cloud/speechsense/v1/*/*.proto
   cd upload_data
   

2. В папке upload_data создайте Python-скрипт upload_grpc.py, который загрузит данные в подключение SpeechSense. Файл будет передаваться через чанки:

   import argparse
   import datetime
   import json
   from typing import Dict
   
   import grpc
   
   from yandex.cloud.speechsense.v1 import talk_service_pb2
   from yandex.cloud.speechsense.v1 import talk_service_pb2_grpc
   from yandex.cloud.speechsense.v1 import audio_pb2
   
   
   # Настройте размер передаваемого чанка
   CHUNK_SIZE_BYTES = 1 * 1024 * 1024
   
   
   def upload_audio_requests_iterator(connection_id: str, metadata: Dict[str, str], audio_path: str):
       # Передайте общие метаданные диалога
       yield talk_service_pb2.StreamTalkRequest(
           metadata=talk_service_pb2.TalkMetadata(
               connection_id=connection_id,
               fields=metadata
           )
       )
   
       # Передайте метаданные аудиозаписи
       yield talk_service_pb2.StreamTalkRequest(
           audio=audio_pb2.AudioStreamingRequest(
               audio_metadata=audio_pb2.AudioMetadata(
                   container_audio=audio_pb2.ContainerAudio(
                       container_audio_type=audio_pb2.ContainerAudio.ContainerAudioType.CONTAINER_AUDIO_TYPE_WAV
                   )
               )
           )
       )
   
       with open(audio_path, mode='rb') as fp:
           data = fp.read(CHUNK_SIZE_BYTES)
           while len(data) > 0:
               # Передайте очередной чанк байт аудиофайла
               yield talk_service_pb2.StreamTalkRequest(
                   audio=audio_pb2.AudioStreamingRequest(
                       chunk=audio_pb2.AudioChunk(data=data)
                   )
               )
               data = fp.read(CHUNK_SIZE_BYTES)
   
   
   def upload_talk(connection_id: str, metadata: Dict[str, str], token: str, audio_path: str):
       # Установите соединение с сервером
       credentials = grpc.ssl_channel_credentials()
       channel = grpc.secure_channel('api.speechsense.yandexcloud.net:443', credentials)
       talk_service_stub = talk_service_pb2_grpc.TalkServiceStub(channel)
   
       # Передайте итератор по запросам и получите ответ от сервера
       response = talk_service_stub.UploadBadge(
           upload_audio_requests_iterator(connection_id, metadata, audio_path),
           metadata=[('authorization', token)]
       )
   
       print(f'Badge id: {response.id}')
   
   
   if __name__ == '__main__':
       parser = argparse.ArgumentParser()
   
       parser.add_argument('--key', required=True, help='API key or IAM token', type=str)
       parser.add_argument('--key-type', required=False, help='Key type', choices=['iam-token', 'api-key'], default='iam-token', type=str)
       parser.add_argument('--connection-id', required=True, help='Connection Id', type=str)
       parser.add_argument('--audio-path', required=True, help='Audio file path', type=str)
       parser.add_argument('--meta-path', required=False, help='Talk metadata json', type=str, default=None)
       args = parser.parse_args()
   
       # Значения по умолчанию, если метаданные не указаны
       if args.meta_path is None:
           now = datetime.datetime.now().isoformat()
           metadata = {
               'operator_name': 'Operator',
               'operator_id': '1111',
               'client_name': 'Client',
               'client_id': '2222',
               'date': str(now),
               'direction_outgoing': 'true',
               'language': 'ru-ru'
           }
       else:
           with open(args.meta_path, 'r') as fp:
               metadata = json.load(fp)
   
       if args.key_type == 'iam-token':
           token = f'Bearer {args.key}'
       elif args.key_type == 'api-key':
           token = f'Api-Key {args.key}'
   
       upload_talk(args.connection_id, metadata, token, args.audio_path)
   

3. В папке upload_data создайте файл metadata.json с метаданными разговора:

   {
       "operator_name": "<имя_оператора>",
       "operator_id": "<идентификатор_оператора>",
       "client_name": "<имя_клиента>",
       "client_id": "<идентификатор_клиента>",
       "date": "<дата_начала>",
       "language": "<язык>",
       <дополнительные_параметры_подключения>
   }
   

   Поля в файле должны соответствовать параметрам подключения, в которое вы загружаете аудиозаписи. В шаблоне выше указаны обязательные поля для подключений типа Одноканальное аудио. Если вы добавляли другие параметры в подключение, укажите их в файле metadata.json. Например, если вы загружаете связанные диалоги, добавьте в файл параметр:

   {
      ...
      "ticket_id": "<номер_задачи>"
   }
   

4. Задайте API-ключ сервисного аккаунта:

   export API_KEY=<API-ключ_сервисного_аккаунта>
   

   Если вы используете IAM-токен, передайте его вместо API-ключа:

   export IAM_TOKEN=<IAM-токен_сервисного_аккаунта>
   

5. Запустите скрипт upload_grpc.py, передав нужные параметры:

   python3 upload_grpc.py \
      --audio-path <аудиофайл> \
      --meta-path <метаданные> \
      --connection-id <идентификатор_подключения> \
      --key ${API_KEY}
   

   Где:

   • --audio-path — путь к файлу с аудиозаписью диалога.
   • --meta-path — путь к файлу с метаданными диалога.
   • --connection-id — идентификатор подключения, в которое вы загружаете данные.
   • --key — API-ключ для аутентификации. Если вы используете IAM-токен, укажите переменную окружения IAM_TOKEN вместо API_KEY.

6. В случае успешного выполнения скрипта вы получите строку с Badge id. Обработка диалогов занимает продолжительное время, поэтому загруженные диалоги появятся в консоли SpeechSense позднее.