Связаться с намиПодключиться

Потоковое распознавание речи с автоматическим определением языка в API v3

Статья создана
Улучшена
Обновлена 22 октября 2024 г.

Пример показывает, как с помощью API v3 SpeechKit в режиме реального времени распознать речь в формате LPCM с автоматическим определением языка (языков).

В примере заданы следующие параметры:

Автоматическое определение языка

Сервис SpeechKit позволяет в ходе распознавания речи автоматически определять язык речи и возвращать вместе с результатами распознавания языковые метки, содержащие вероятность правильного определения языка.
Чтобы настроить автоматическое определение языка, необходимо в параметре language_code метода LanguageRestrictionOptions() указать значение auto:

    language_restriction=stt_pb2.LanguageRestrictionOptions(
        restriction_type=stt_pb2.LanguageRestrictionOptions.WHITELIST,
        language_code=['auto']
    )

Языковые метки содержат код языка и вероятность правильности его определения:

    language_code: "ru-RU" probability: 0.91582357883453369

Примечание

Определение языка и расстановка языковых меток доступно только в gRPC API v3.

Подготовьте необходимые ресурсы

  1. Создайте сервисный аккаунт и назначьте ему роль ai.speechkit-stt.user.
  2. Для сервисного аккаунта получите и сохраните IAM-токен.
  3. Скачайте пример аудиофайла для распознавания или сгенерируйте свой.

Создайте приложение для потокового распознавания речи

Чтобы реализовать пример из этого раздела:

  1. Склонируйте репозиторий Yandex Cloud API:

    git clone https://github.com/yandex-cloud/cloudapi

  2. Создайте клиентское приложение:

    1. Установите пакет grpcio-tools с помощью менеджера пакетов pip:

      pip install grpcio-tools

    2. Перейдите в папку со склонированным репозиторием Yandex Cloud API, создайте папку output и сгенерируйте в ней код интерфейса клиента:

      cd <путь_к_папке_cloudapi>
mkdir output
python3 -m grpc_tools.protoc -I . -I third_party/googleapis \
    --python_out=output \
    --grpc_python_out=output \
    google/api/http.proto \
    google/api/annotations.proto \
    yandex/cloud/api/operation.proto \
    google/rpc/status.proto \
    yandex/cloud/operation/operation.proto \
    yandex/cloud/validation.proto \
    yandex/cloud/ai/stt/v3/stt_service.proto \
    yandex/cloud/ai/stt/v3/stt.proto

      В результате в папке output будут созданы файлы с интерфейсом клиента: stt_pb2.py, stt_pb2_grpc.py, stt_service_pb2.py, stt_service_pb2_grpc.py и файлы зависимостей.

    3. Создайте файл в корне папки output, например test.py, и добавьте в него следующий код:

      #coding=utf8
import argparse

import grpc

import yandex.cloud.ai.stt.v3.stt_pb2 as stt_pb2
import yandex.cloud.ai.stt.v3.stt_service_pb2_grpc as stt_service_pb2_grpc

CHUNK_SIZE = 4000

def gen(audio_file_name):
    # Задайте настройки распознавания.
    recognize_options = stt_pb2.StreamingOptions(
        recognition_model=stt_pb2.RecognitionModelOptions(
            audio_format=stt_pb2.AudioFormatOptions(
                raw_audio=stt_pb2.RawAudio(
                    audio_encoding=stt_pb2.RawAudio.LINEAR16_PCM,
                    sample_rate_hertz=8000,
                    audio_channel_count=1
                )
            ),
            # Задайте автоматическое распознавание языков.
            language_restriction=stt_pb2.LanguageRestrictionOptions(
                restriction_type=stt_pb2.LanguageRestrictionOptions.WHITELIST,
                language_code=['auto']
            ),
            # Выберите модели распознавание — потоковое распознавание.
            audio_processing_type=stt_pb2.RecognitionModelOptions.REAL_TIME
        )
    )

    # Отправьте сообщение с настройками распознавания.
    yield stt_pb2.StreamingRequest(session_options=recognize_options)

    # Прочитайте аудиофайл и отправьте его содержимое порциями.
    with open(audio_file_name, 'rb') as f:
        data = f.read(CHUNK_SIZE)
        while data != b'':
            yield stt_pb2.StreamingRequest(chunk=stt_pb2.AudioChunk(data=data))
            data = f.read(CHUNK_SIZE)

# Вместо iam_token передавайте api_key при аутентификации с API-ключом
# от имени сервисного аккаунта.
# def run(api_key, audio_file_name):
def run(iam_token, audio_file_name):
    # Установите соединение с сервером.
    cred = grpc.ssl_channel_credentials()
    channel = grpc.secure_channel('stt.api.cloud.yandex.net:443', cred)
    stub = stt_service_pb2_grpc.RecognizerStub(channel)

    # Отправьте данные для распознавания.
    it = stub.RecognizeStreaming(gen(audio_file_name), metadata=(
    # Параметры для аутентификации с IAM-токеном
        ('authorization', f'Bearer {iam_token}'),
    # Параметры для аутентификации с API-ключом от имени сервисного аккаунта
    #   ('authorization', f'Api-Key {api_key}'),
    ))

    # Обработайте ответы сервера и выведите результат в консоль.
    try:
        for r in it:
            event_type, alternatives = r.WhichOneof('Event'), None
            if event_type == 'partial' and len(r.partial.alternatives) > 0:
                alternatives = [a.text for a in r.partial.alternatives]
            if event_type == 'final':
                alternatives = [a.text for a in r.final.alternatives]
                # Получение языковых меток:
                langs = [a.languages for a in r.final.alternatives]
            if event_type == 'final_refinement':
                alternatives = [a.text for a in r.final_refinement.normalized_text.alternatives]
            print(f'type={event_type}, alternatives={alternatives}')
            # Вывод в консоль языковых меток для финальных версий:
            if event_type == 'final':
                print(f'Language labels:')
                for lang in langs:
                    for line in lang:
                        words=f'{line}'.splitlines()
                        for word in words:
                            print(f'  {word}', end="")
                        print()
    except grpc._channel._Rendezvous as err:
        print(f'Error code {err._state.code}, message: {err._state.details}')
        raise err

if __name__ == '__main__':
    parser = argparse.ArgumentParser()
    parser.add_argument('--token', required=True, help='IAM token or API key')
    parser.add_argument('--path', required=True, help='audio file path')
    args = parser.parse_args()
    run(args.token, args.path)

      Где:

      • audio_encoding — формат аудиопотока.
      • sample_rate_hertz — частота дискретизации аудиопотока.
      • audio_channel_count — количество аудиоканалов.
      • language_code — язык, для которого будет выполнено распознавание.

  3. Задайте IAM-токен сервисного аккаунта:

    export IAM_TOKEN=<IAM-токен_сервисного_аккаунта>

  4. Выполните созданный файл:

    python3 output/test.py --token ${IAM_TOKEN} --path <путь_к_файлу_speech.pcm>

    Где --path — путь к аудиофайлу, который необходимо распознать.

    Результат:

    type=status_code, alternatives=None
type=partial, alternatives=None
type=partial, alternatives=['привет']
type=final, alternatives=['привет мир']
Language guess:
    language_code: "ru-RU"  probability: 1
type=final_refinement, alternatives=['привет мир']
type=eou_update, alternatives=None
type=partial, alternatives=None
type=status_code, alternatives=None

См. также

Предыдущая
Потоковое распознавание речи с микрофона API v3
Следующая
Потоковое распознавание API v2