Потоковое распознавание аудиофайла с помощью API v3

Статья создана

Улучшена

Обновлена 22 октября 2024 г.

Ниже рассмотрен пример потокового распознавания речи из аудиофайла с помощью API v3 SpeechKit. В примере заданы параметры:

язык — русский;
формат аудиопотока — LPCM с частотой дискретизации 8000 Гц;
количество аудиоканалов — 1 (значение по умолчанию);
включен фильтр ненормативной лексики;
остальные параметры оставлены по умолчанию.

Аутентификация происходит от имени сервисного аккаунта с помощью API-ключа или IAM-токена. Подробнее об аутентификации в API SpeechKit.

Чтобы реализовать пример из этого раздела:

Создайте сервисный аккаунт для работы с API SpeechKit.
Назначьте сервисному аккаунту роль ai.speechkit-stt.user или выше на каталог, в котором он был создан.
Получите API-ключ или IAM-токен для сервисного аккаунта.
Скачайте пример аудиофайла для распознавания или используйте свой аудиофайл.

Создайте клиентское приложение:

Python 3

Java

Склонируйте репозиторий Yandex Cloud API:
```
git clone https://github.com/yandex-cloud/cloudapi
```
Установите пакет grpcio-tools с помощью менеджера пакетов pip:
```
pip install grpcio-tools
```

Перейдите в папку со склонированным репозиторием Yandex Cloud API, создайте папку output и сгенерируйте в ней код интерфейса клиента:

cd <путь_к_папке_cloudapi>
mkdir output
python3 -m grpc_tools.protoc -I . -I third_party/googleapis \
  --python_out=output \
  --grpc_python_out=output \
    google/api/http.proto \
    google/api/annotations.proto \
    yandex/cloud/api/operation.proto \
    google/rpc/status.proto \
    yandex/cloud/operation/operation.proto \
    yandex/cloud/validation.proto \
    yandex/cloud/ai/stt/v3/stt_service.proto \
    yandex/cloud/ai/stt/v3/stt.proto

В результате в папке output будут созданы файлы с интерфейсом клиента: stt_pb2.py, stt_pb2_grpc.py, stt_service_pb2.py, stt_service_pb2_grpc.py и файлы зависимостей.

Создайте файл в корне папки output, например test.py, и добавьте в него следующий код:

#coding=utf8
import argparse

import grpc

import yandex.cloud.ai.stt.v3.stt_pb2 as stt_pb2
import yandex.cloud.ai.stt.v3.stt_service_pb2_grpc as stt_service_pb2_grpc

CHUNK_SIZE = 4000

def gen(audio_file_name):
    # Задайте настройки распознавания.
    recognize_options = stt_pb2.StreamingOptions(
        recognition_model=stt_pb2.RecognitionModelOptions(
            audio_format=stt_pb2.AudioFormatOptions(
                raw_audio=stt_pb2.RawAudio(
                    audio_encoding=stt_pb2.RawAudio.LINEAR16_PCM,
                    sample_rate_hertz=8000,
                    audio_channel_count=1
                )
            ),
            text_normalization=stt_pb2.TextNormalizationOptions(
                text_normalization=stt_pb2.TextNormalizationOptions.TEXT_NORMALIZATION_ENABLED,
                profanity_filter=True,
                literature_text=False
            ),
            language_restriction=stt_pb2.LanguageRestrictionOptions(
                restriction_type=stt_pb2.LanguageRestrictionOptions.WHITELIST,
                language_code=['ru-RU']
            ),
            audio_processing_type=stt_pb2.RecognitionModelOptions.REAL_TIME
        )
    )

    # Отправьте сообщение с настройками распознавания.
    yield stt_pb2.StreamingRequest(session_options=recognize_options)

    # Прочитайте аудиофайл и отправьте его содержимое порциями.
    with open(audio_file_name, 'rb') as f:
        data = f.read(CHUNK_SIZE)
        while data != b'':
            yield stt_pb2.StreamingRequest(chunk=stt_pb2.AudioChunk(data=data))
            data = f.read(CHUNK_SIZE)

# Вместо iam_token передавайте api_key при авторизации с API-ключом
# от имени сервисного аккаунта.
# def run(api_key, audio_file_name):
def run(iam_token, audio_file_name):
    # Установите соединение с сервером.
    cred = grpc.ssl_channel_credentials()
    channel = grpc.secure_channel('stt.api.cloud.yandex.net:443', cred)
    stub = stt_service_pb2_grpc.RecognizerStub(channel)

    # Отправьте данные для распознавания.
    it = stub.RecognizeStreaming(gen(audio_file_name), metadata=(
    # Параметры для авторизации с IAM-токеном
        ('authorization', f'Bearer {iam_token}'),
    # Параметры для авторизации с API-ключом от имени сервисного аккаунта
    #   ('authorization', f'Api-Key {api_key}'),
    ))

    # Обработайте ответы сервера и выведите результат в консоль.
    try:
        for r in it:
            event_type, alternatives = r.WhichOneof('Event'), None
            if event_type == 'partial' and len(r.partial.alternatives) > 0:
                alternatives = [a.text for a in r.partial.alternatives]
            if event_type == 'final':
                alternatives = [a.text for a in r.final.alternatives]
            if event_type == 'final_refinement':
                alternatives = [a.text for a in r.final_refinement.normalized_text.alternatives]
            print(f'type={event_type}, alternatives={alternatives}')
    except grpc._channel._Rendezvous as err:
        print(f'Error code {err._state.code}, message: {err._state.details}')
        raise err

if __name__ == '__main__':
    parser = argparse.ArgumentParser()
    parser.add_argument('--token', required=True, help='IAM token or API key')
    parser.add_argument('--path', required=True, help='audio file path')
    args = parser.parse_args()
    run(args.token, args.path)

Где:

audio_encoding — формат аудиопотока.
sample_rate_hertz — частота дискретизации аудиопотока.
audio_channel_count — количество аудиоканалов.
profanity_filter — фильтр ненормативной лексики.
literature_text — флаг для написания распознанного текста в литературном стиле.
language_code — язык, для которого будет выполнено распознавание.

Задайте IAM-токен сервисного аккаунта:

export IAM_TOKEN=<IAM-токен_сервисного_аккаунта>

Выполните созданный файл:

python3 output/test.py --token ${IAM_TOKEN} --path <путь_к_файлу_speech.pcm>

Где --path — путь к аудиофайлу, который необходимо распознать.

Результат:

type=status_code, alternatives=None
type=partial, alternatives=None
type=partial, alternatives=['привет ми']
type=final, alternatives=['привет мир']
type=final_refinement, alternatives=['Привет мир']
type=eou_update, alternatives=None
type=partial, alternatives=None
type=status_code, alternatives=None

Установите зависимости:

sudo apt update && sudo apt install --yes default-jdk maven

Склонируйте репозиторий с конфигурацией для приложения на Java:
```
git clone https://github.com/yandex-cloud-examples/yc-speechkit-stt-java
```
Перейдите в папку репозитория:
```
cd yc-speechkit-stt-java
```
Скачайте пример аудиофайла в формате WAV. Разместите аудиофайл в папке репозитория.
Скомпилируйте проект в этой папке:
```
mvn clean install
```
Перейдите в созданную папку target:
```
cd target
```
Задайте API-ключ сервисного аккаунта:
```
export API_KEY=<API-ключ>
```

Запустите программу Java для распознавания речи:

java -cp speechkit_examples-1.0-SNAPSHOT.jar yandex.cloud.speechkit.examples.SttV3Client <путь_к_аудиофайлу>

В команде укажите абсолютный путь к скачанному примеру аудиофайла.

Результат:

sending  initial request
Done sending
Stt stream completed
Recognized text is я яндекс спичкит я могу превратить любой текст в речь теперь и вы можете

Потоковое распознавание аудиофайла с помощью API v3

См. также

Была ли статья полезна?

Потоковое распознавание аудиофайла с помощью API v3

См. такжеСм. также

Была ли статья полезна?

См. также